نوع مقاله: علمی و پژوهشی

نویسندگان

1 استادیار حقوق جزا و جرم‌شناسی، عضو هیئت علمی پژوهشگاه علوم انتظامی و مطالعات اجتماعی ناجا

2 دانش‌آموخته دکتری حقوق جزا و جرم شناسی، مدرس دانشگاه.

10.22091/csiw.2020.4821.1661

چکیده

امروزه هوش مصنوعی در کالبد ربات­ های ساخت بشر دمیده شده و نقش ربات ­ها با کاربردهای مختلف نظامی، درمانی و غیره در زندگی انسان­ها رو به افزایش است. همین مسئله سبب شده تا مسائل و مشکلاتی در حوزه حقوق کیفری کشورها به­وجود آید. مهم­ترین مبحث حقوق کیفری در مورد هوش مصنوعی به­ خصوص خودروهای خودران، بحث مسئولیت کیفری آن­ها در صورت بروز حوادث رانندگی در حالت رانندگی خودکار است. برای مشخص شدن مبانی مسئولیت کیفری هوش مصنوعی در حقوق اسلام و کشورهای ایران، آمریکا و آلمان ابتدا باید دریافت که مفهوم مسئولیت کیفری در نظام حقوقی آن ها چیست؟ همچنین در مواقع ارتکاب جرم توسط هوش مصنوعی چه کسی مسئول است؟ و اینکه آیا می ­توان مبانی مسئولیت کیفری سنتی که انسان­ها را مورد خطاب قرار می­دهد را به هوش مصنوعی نسبت داد؟ روش این تحقیق بر اساس اکثر پژوهش­های حقوق کیفری به لحاظ هدف کاربردی و به لحاظ شیوه اجرا  توصیفی ­تحلیلی و ابزار گرداوری اطلاعات و داده­ها اسنادی و کتابخانه­ ای است. یافته­ های این پژوهش نشان می­ دهد که علی­رغم و جود شباهت­ ها و تفاوت­ ها میان اصول حاکم بر مسئولیت کیفری در اسلام و کشورهای مورد مطالعه، نمی ­توان مبانی مسئولیت کیفری سنتی را به هوش مصنوعی تسری داد. زیرا هوش مصنوعی قابلیت درک اعمال خود و نتایج آن را ندارد، لذا اخلاقاً و قانوناً نمی ­توان آن را مجازات کرد. ضمن اینکه هوش مصنوعی درکی نسبت به مفهوم مجازات نیز ندارد؛ لذا می­بایست در جرایم ارتکابی توسط آن­ها با توجه به شرایط جرم، سازنده، برنامه­ ریز یا مالک را مسئول دانست و مجازات کرد. 

تازه های تحقیق

علیرغم پیشرفت روزافزون علم و دانش مربوط به هوش مصنوعی(ربات ها) ، باز هم مدت زمان نسبتاً طولانی نیاز است تا این ربات ها در جوامع انسانی فراگیر شوند و به عنوان یک فناوری نوین در زندگی انسان ادغام شود. در آلمان، تکنولوژی­های مربوط به راندن یک خودرو، مانند اتوپایلوت یا پارک خودکار، تنها در صورتی استفاده می‌شود که یک انسان در اتومبیل حضور داشته باشد و بتواند در حالت اضطراری فرمان و هدایت خودرو را در دست بگیرد. در ایالات‌متحده، خط­مشی دستورالعمل‌ها و قانونگذاری، ملزم می­سازد که یک راننده دارای گواهینامه در وسیله نقلیه حضور داشته و آماده­ مداخله در صورت بروز مشکل فنی باشد(بند b از ماده 38750، قانون وسایل نقلیه ایالت کالیفورنیا)، اما در کشور ما ایران به دلیل عدم ورود این تکنولوژی به کشور، نیازی به قانون گذاری جداگانه در رابطه با هوش مصنوعی و خودروهای خودران و آیین نامه های مربوطه احساس نشده است لذا نمی توان مباحث قانونی را تحلیل کرد و فقط می توان مبانی قوانین فعلی را مورد تحلیل و بررسی قرار داده و با موضوع تطبیق داد. در ادامه باید عنوان کرد که هم‌ زیستی بالقوه­ همراه با نگرانی انسان‌ها و ربات‌ها این سوال را مطرح می­سازد که یک انسان تا چه حد و اندازه­ای می­تواند بر روی خودروی خودران خود تکیه کند و تحت چه شرایطی او باید هدایت خودرو را در دست بگیرد. پرسش‌های عملی از این قبیل ممکن است برای حقوقدان­های عصر حاضر، ضرورت بیشتری نسبت­ به آن دسته از پرسش­های آینده گرایانه­ای که در این مقاله به آنها پرداخته شد، داشته باشند؛ لذا آن سئوالات به راحتی می‌توانند در محدوده­ دکترین قانون کیفری سنتی پاسخ داده شوند.

در مقابل، خودروهای کاملاً مستقل و دیگر عوامل هوشمند، اصول قانون کیفری سنتی را به سمت محدودیت‌هایی که (آن قوانین) دارند سوق می­دهند، لذا ما شاهد آن هستیم که در حال حاضر بر اساس قوانین کشورهای مورد بحث و حقوق اسلام، نمی‌توان هوش مصنوعی یا خودروهای خودران را دارای مسئولیت کیفری دانست و مجازات کرد، زیرا آن‌ها نه توانایی عمل مجرمانه را دارند (عدم وجود عمد در فعل و عدم وجود اراده) و نه می‌توانند تصور و یا ایده­ مجازات را درک نمایند(عدم وجود قصد مجرمانه). با این حال، در آینده ممکن است ربات‌ها آن قدر شبیه به انسان شوند که همانند ما، قادر به "احساس" مجازات کیفری بشوند. زمانی که این مرحله فرا رسید، مجازات کردن ربات‌ها ممکن است منطقی به نظر برسد.

براساس مبانی مسئولیت کیفری در آلمان ، ایالات ‌متحده و ایران، اپراتوریا متصدی ماشین‌های خودران ممکن است در صورتی که یک خودرو به دلیل بد عمل کردن قابل پیش­بینی موجب آسیب و یا مرگ گردد، محکوم به سهل‌انگاری و یا قتل شوند. در این صورت مسئولیت کیفری می‌تواند بر اپراتورها مطابق با قواعد عام مسئولیت کیفری سنتی اعمال شود، حتی اگر سهل­انگاری آن‌ها تنها یک قصور یا کوتاهی برای واکنش نشان دادن صحیح در خصوص گزارش های مربوط به حوادث و تصادفات خطرناک بوده باشد، این موارد پاسخ به سئوال دوم و سوم  مطروحه در چکیده این مقاله را آشکار می کند. اما پیش‌بینی و کنترل رفتار ربات‌های خودآموز ممکن است برای اپراتورهای انسانی بسیار دشوار شود که در نتیجه ممکن است لازم باشد تا الزامات مسئولیت کیفری در مورد سهل­انگاری را مطرح سازیم، تا مبادا خطر مجازات، مانع از توسعه و استفاده­ بیشتر از ربات‌ها شود. اگر جامعه پذیرای راحتی، فرصت‌ها و تضمین‌های ایمنی مربوط به خودروهای خودران باشد، باید این واقعیت را نیز بپذیرد که  اقدامات غیرمنتظره­ ربات‌ها ممکن است منجر به آسیب نیز شود.

با این حال، تحمل بدعمل کردن­های ناشی از ربات باید تابع محدودیت­های دقیقی باشد. چالش باقی مانده این است که بین علاقه­ یا منافع جامعه به ترویج نوآوری و خطرات مرتبط با استفاده از هوش مصنوعی دارای پتانسیل مخرب، به یک تعادل یا موازنه­ ی عادلانه دست یابیم. یکی از عواملی که باید در فرآیند موازنه در نظر گرفته شود، منافع اجتماعی مورد بحث ربات ها، با پتانسیل آن ها برای آسیب می‌باشد. تحت این نوع رویکرد سود گرایانه، استانداردهای مراقبت باید نسبت به ربات‌هایی که ارزش اجتماعی کمتری دارند، مانند اسباب‌بازی‌ها، سختگیرانه‌تر شوند. از سوی دیگر، با توجه به موضوع مورد بحث یعنی خودروهای خودران، خطر باقیمانده پس از آزمایش دقیق و نظارت می‌تواند با مزایای عمومی استفاده از چنین خودروهایی جبران یا متوازن شود.

کلیدواژه‌ها

عنوان مقاله [English]

A Review of Concept of Criminal Responsibility for Artificial Intelligence ( A Case Study of Self-Driving Cars) in the Law of Islam, Iran, USA and Germany

نویسندگان [English]

  • Saeid Atazadeh 1
  • jalal ansari 2

1 Assistant Professor of Criminal Law and Criminology, Faculty Member at the Institute of Police Science and Social Studies

2 Ph. D. in Criminal Law and Criminlogy, University Instructor.

چکیده [English]

Nowadays, artificial intelligence is blown to the brim of human-made robots, and the role of robots with various military, therapeutic and other applications in human life is increasing. This has caused problems and issues in the criminal law of countries. The most important topic of criminal law regarding artificial intelligence, especially automobiles, is the discussion of their criminal liability in the event of accidents in auto driving. To clarify the basics of criminal liability of artificial intelligence in Islamic law and the countries of Iran, the US and Germany, one must first understand what the concept of criminal responsibility is in their legal system. Who is also responsible for artificial intelligence when committing crimes? And can the principles of traditional criminal responsibility addressing human beings be attributed to artificial intelligence? The findings of this study, which have been done through a analytic-descriptive method and data gathering by means of documentary tools, demonstrate that despite the similarities and differences between the principles governing criminal responsibility in Islam and the countries under study, traditional criminal responsibility principles cannot be extended it to artificial intelligence. Because artificial intelligence is incapable of understanding its actions and its consequences, it cannot be morally and legally punished. Furthermore, artificial intelligence is also incomprehensible to the concept of punishment, therefore in the case of crimes committed by them, according to the circumstances of the crime, the creator, planner or owner must be held responsible and punished.
 

کلیدواژه‌ها [English]

  • Criminal Responsibility
  • artificial intelligence
  • Self-driving cars
  • Law of Islam and Iran
  • Law of the US and Germany

1)      امین پور، رضا، محمودیان چالبان، علی، درویش پوریان، ام البنین،1398ش، «تحلیل اجتماع مسئولیت مباشر و مسبب در قانون مجازات اسلامی مصوب سال 1392 از دیدگاه حقوق خصوصی»،تحقیقات حقوق خصوصی و کیفری،ش39.

2)      جعفری لنگرودی ، محمد جعفر،1372ش، ترمینولوژی حقوق ، تهران ،انتشارات گنج دانش، چ 6.

3)      جعفری، مجتبی،1395ش، «ﺗﺄﻣﻠﯽ در ﻣﺎﻫﯿﺖ و ﻗﻠﻤﺮو اراده در ﺗﺤﻘّﻖ ﻣﺴﺌﻮﻟﯿﺖ ﮐﯿﻔﺮی» ، ﭘﮋوﻫﺶ ﺣﻘﻮق ﮐﯿﻔﺮی،ش15.

4)      ----------،1396ش، «باز اندیشی در مفهوم مسئولیت کیفری فعل غیر» ،پژوهش حقوق کیفری،ش20.

5)      حاجی ده آبادی، محمدعلی، بهزادی نیا ،فاطمه، اسماعیلی، صالح، 1393ش، «در آمدی بر مسؤولیت کیفری رباتیک از منظر قواعد فن آوری و حقوق اسلامی »، فصلنامه پژوهش تطبیقی حقوق اسلام و غرب، دوره 1، ش2.

6)      رازی، فخرالدین ، ۱۴۲۱ ق، التفسیر الکبیر، بیروت، دارالکتب العلمی،ج7.

7)      رضوی فرد، بهزاد،موسوی، سید نعمت اله،1395ش، «مسئولیت کیفری در فضای سایبر در حقوق ایران»، پژوهش حقوق کیفری، ش16.

8)      شامبیاتی ، هوشنگ ، 1392ش، حقوق جزای عمومی  ، تهران ، انتشارات مجد، ج 2  .

9)      شاهچراغ، سید حمید،1391ش، «بررسی تطبیقی مسؤولیت مطلق کیفری در حقوق ایران با نگرشی بر نظام حقوقی کامن لا» ، مجله حقوقی دادگستری ،ش78.

10)  شریفی،محسن،حبیب زاده،محمد جعفر ،عیسلائی، محمد و فرجیها ، محمد،1392ش، « دگرگونی های مسئولیت کیفری اشخاص حقوقی در ایران» ، مجله حقوقی دادگستری، ش82 .

11)  طوسی، محمد بن حسن،1400ق، الاقتصاد الهادی إلی طریق الرشاد ،به کوشش حسن سعید، تهران، نشر مکتبة جامع چهل ستون.

12)  عاملی(شهید ثانی)، زین الدین بن علی،1410ق، الروضه البهیه فی شرح اللمعه دمشقیه ، بیروت، دار احیا التراث العربی،چ2،ج9.

13)  عمید، حسن ،1384ش، فرهنگ فارسی ، تهران ، نشر امیرکبیر،چ30.

14)  کونانی، مهرداد، محسن پور قادیکلایی، حامد، 1392ش، «مسئولیت مدنی سردفتر، مسئولیت توام با تقصیر سردفتر» ، مجله اندیشمندان حقوق ، ش6 .

15)  ﮔﻠﺪوزﯾﺎن، اﯾﺮج ، ﺟﺎﻧﯽ، ﺣﺴﯿﻦ ، 1384ش،« ﻣﺒﺎﻧﯽ اﺻﻞ ﺷﺨﺼﯽ ﺑﻮدن ﻣﺴﺆﻟﯿﺖ ﮐﯿﻔﺮی» ، ﻣﺠﻠﻪالهیات و حقوق ، ش15و16.

16)  ﻣﺤﺴﻨﯽ ، ﻓﺮﯾﺪ ، ﺟﻮﻫﺮ ، ﺳﻌﯿﺪ، 1393ش، « ارتباط مسئولیت اجتماعی و مسئولیت کیفری تعامل یا تقابل» ، ﭘﮋوﻫﺶ ﺣﻘﻮق ﮐﯿﻔﺮی، ش8.

17)  ﻣﻌﯿﻦ،ﻣﺤﻤﺪ،1362ش، ﻓﺮﻫﻨﮓ ﻓﺎرﺳﯽ، ﺗﻬﺮان،اﻧﺘﺸﺎرات اﻣﯿﺮﮐﺒﯿﺮ، ج3.

18)  مصباح یزدی، محمد تقی،1381ش، فلسفه اخلاق، تحقیق و نگارش احمد حسین شریفی، تهران،شرکت چاپ و نشر بین الملل.

19)  ﻣﻮﺳﻮی ﻣﺠﺎب ، ﺳﯿﺪ درﯾﺪ، 1387ش، «ﻧﻘﺶ اراده در ﻣﺴﺌﻮﻟﯿﺖ ﮐﯿﻔﺮی ﺑﺎ روﯾﮑﺮدی ﺑﻪ ﻧﻈﺎم ﺣﻘﻮﻗﯽ اﯾﺮان» ، رساله دﮐﺘﺮی ، استاد راهنما محمد جعفر حبیب زاده، ﺣﻘﻮق ﺟﺰا و ﺟﺮﻣﺸﻨﺎﺳﯽ ، دانشکده حقوق،  داﻧﺸﮕﺎه ﺗﺮﺑﯿﺖ ﻣﺪرس.

20)  ﻣﯿﺮ ﺧﻠﯿﻠﯽ، ﻣﺤﻤود ، ﺣﺎﺟﯽ ده آﺑﺎدی، ﻣﺤﻤﺪ ﻋﻠﯽ ،1380ش، داﻧﺸﻨﺎﻣﻪ اﻣﺎم ﻋﻠﯽ (ع)، ﺗﻬﺮان، ﭘﮋوﻫﺸﮕﺎه ﻓﺮﻫﻨﮓ و اﻧﺪﯾﺸﻪ اﺳﻼﻣﯽ،چ1،ج6.

21)  ﻣﯿﺮﺳﻌﯿﺪی ،ﺳﯿﺪ ﻣﻨﺼﻮر ،1386ش، ﻣﺴﺌﻮﻟﯿﺖ ﮐﯿﻔﺮی ، ﻗﻠﻤﺮو وارﮐﺎن، تهران، ﻧﺸﺮ ﻣﯿﺰان،چ2،ج1.

22)  نراقی، احمد، ۱۴۱۵ ق، مستند الشیعه، قم،آل البیت (علیهم‌السلام) لاحیاء التراث،ج2.

23)  ولیدی ، محمد صالح ، 1392ش، شرح بایسته های قانون مجازات اسلامی ، تهران ،انتشارت جنگل،چ2.

24)  ---------------، 1382ش،ﺣﻘﻮق ﺟﺰا (ﻣﺴﺌﻮﻟﯿﺖ ﮐﯿﻔﺮی) ، تهران، شرکت چاپ و نشر بین الملل (وابسته به سازمان تبلیغات اسلامی).

25) Asaro, Peter ؛ (2011), A Body to Kick, But Still No Soul to Damn, Robot Ethics: The Ethical And Social Implications Of Robotics , New York: published by Cambridge     (MIT Press).

26) Baumann, Jurgen؛ Weber ,Ulrich ,(2003), Strafrecht Allgemeiner Teil: Lehrbuch, Bielefeld : published by Gieseking.

27) Beck, Susanne ؛ (2013), Robotic und Gesetzgebung , Contributions to the conference from 7 to 9 May 2012 in Bielefeld,berlin: published by nomos.

28) Bertolini, Andrea ,(2013), »Robots as products: the case for a realistic analysis of robotic technologies and the law«, Law Innovation and Technology journal, vol.5(2).

29) Bräutigam, Peter ؛Klindt ,Thomas ؛ (2015), Digitalisierte Wirtschaft /  Industrie 4.0 (report for Federal Association of German Industry), Munich: published by noerr.

30) Bucy, Pamela؛ (1991), »Corporate Ethos: A Standard for Imposing Corporate Criminal Liability«, Minnesota Law Review, Vol.75, No. 4.

31) DeJong,Elbert,(2012), »Regulating Uncertain Risks in an Innovative Society: A Liability Law Perspective«, in book:Robotik und Gesetzgebung ,berlin,published by nomos.

32) Demko, Daniela, Seelmann, von Kurt, (2014), Rechtsphilosophie (Grundrisse des Rechts), Munich: published by C.H.Beck.

33) Dirk Dubber , Markus؛ Hörnle ,Tatjana, (2014), The Oxford Handbook of Criminal Law,London: published by oxford university.

34) Donatsch, Andreas ؛ Tag, Brigitte  ؛ (2013), Strafrecht I (Verbrechenslehre), Zurich : published by schuthess, 9th edition.

35) Douma ,Frank, Ify Onyiah,Adeel, Lari,(2015), »Self-Driving Vehicles and Policy Implications: Current Status of Autonomous Vehicle Development and Minnesota Policy Implications«, Minnesota Journal of Law, Science & Technology,Vol.16,No.2.

36) Douma, Frank ; Aue Palodichuk, Sarah,(2012), »Criminal Liability Issues Created by Autonomous Vehicles« , Santa Clara Law Reveiw,Vol.52.

37) Duff, Antony ؛ Green, Stuart ,(2011),Philosophical Foundations of Criminal Law, Article: Criminal Liability and ‘‘Smart’’ Environments ), London: published by oxford university press.

38) Eden, Amnon؛ Søraker, Johnny, Moor ,James ؛ Steinhart ,Eric,(2012) Singularity Hypotheses(A Scientific and Philosophical Assessment), Berlin: Springer .

39) Edmund Ashcroft, Richard؛ Dawson , Angus ؛Draper,Heather ؛ (2007), Principles of Health Care Ethics, chichester (uk): jhon wailey & sons, second edition.

40) Freund, Georg ؛ (1992), Erfolgsdelikt und Unterlassen : zu den Legitimations bedingungen von Schuldspruch und Strafe , Koln: Published by Heymann.

41) Frister, Helmut؛( 2018), Strafrecht Allgemeiner Teil (Kurzlehrbücher für das Juristische Studium,Munich: published by C.H.Beck, 8th edition.

42) Gruber, Malte؛ (2012), Jenseits von mensch und maschine,  Article:  Rechtssubjekte und Teilrechtssubjekte des elektronischen Geschäftsverkehrs, berlin:Nomos.

43) Gurney, Jeffrey ؛ (2015), »Driving Into The Unknown: Examining The Crossroad Of Criminal Law And Autonomous Vehicles«, wake forest  journal of  law & policy, Vol.5:2.

44) H. Swanson,Derek,(2009), A Corporate Approach to Preventive Management, Risk Reduction, and Case  Coordination for Chinese Automakers, second edition, Richmond(va),published by  McGuireWoods.

45) Hildebrandt, Mireille ؛ (2011), Autonomic and Autonomous ‘‘Thinking’’: Preconditions for Criminal Accountability, Law؛ Human Agency And Autonomic Computind , London : published by Routledge.

46) Hilgendorf, Eric; Beck, Susanne ؛ (2012), Jenseits von mensch und maschine,berlin: published by nomos .

47) Jakobs ,Günther,(1993), Strafrecht - Allgemeiner Teil: Die Grundlagen und die Zurechnungslehre Lehrbuch,edition 2, Berlin: published by de Gruyter.

48) Kant, Immanuel ؛ (2015), Critique of Practical Reason, translate by Mary gregor, London : Cambridge University Press, second edition.

49) Kerem, David ؛( 2012), «Change We Can Believe In: Comparative Perspectives on the Criminalization Of Corporate  Negligence«, The Tennessee Journal of Business Law , No.1, Vol.14.

50) Klindt ,Thomas؛ Breutigam ,Peter؛ (2015), Jenseits von mensch und maschine Industrie4.0, das Internet der Dinge und das Recht, Neue Juristische, No.68  .

51) Koops, Bert-Jaap  ; Hildebrandt, Mireille ؛( 2010), » Bridging the Accountability Gap: Rights for New Entities in the Information Society?« , Minnesota journal of law; science & technology,vol.11:2.

52) L. Dewhurst,Ruth,(2013), The Legacy of Luther: National Identity and State- Building in Early Nineteenth-Century Germany, Georgia,published by Georgia State University.

53) Lari, Adeel ؛ Douma, Frank؛ Onyiah, Ify ؛ (2015), «Self-Driving Vehicles and Policy Implications: Current Status of Autonomous Vehicle Development and Minnesota Policy Implications«  ,Minnesota Journal of Law, Science & Technology,Vol.16,issue 2.

54) Lasso , Rogelio  ؛ Kiely,Terrence؛ Ottley, Bruce ؛ (2013), Understanding Products Liability Law, New York:  published by lexisnexis.

55) Marburg, Frauke Timm؛ (2012), Conference report: 2nd meeting of the CCC - Center for Criminal Compliance: »Criminal compliance before the tasks of the future« on 2012/ 7/12 in Gieben ; access: http://www.zis- online.com/dat/artikel/2013_ 5_753.pdf

56) Maurer ,Markus ؛ Gerdes, J. Christian؛ Lenz, Barbara ؛Winner, Hermann, (2015),Autonomous Driving: Technical, Legal and Social Aspects, Berlin: springer.

57) Moore ,Michael ؛ (2010), Act and Crime: The Philosophy of Action and Its Implications for Criminal Law , newyork: published by oxford university press, first edition.

58) Palodichuk, Sarah Aue ؛ Frank, Douma؛ (2012), »Criminal Liability Issues Created by  Autonomous Vehicles«, Santa Clara Law Review, No.4,Vol. 54.

59) Podgor, Ellen؛ Henning, Peter؛ Isreal, Jerold؛ King,Nancy ,(2013),  White Collar Crime, , Eagan(Minnesota- usa): West Academic Publishing, first edition.

60) Quinn, Frances, Elliot, Catherine, (2012),Criminal Law , , London: Published by Pearson, 9th edition.

61) Rotsch,Thomas؛ (2013),Criminal ,Compliance vor den Aufgaben der Zukunft, berlin(Germany) : published by nomos .

62) Roxin,Claus؛ (2005), Strafrecht Allgemeiner Teil Bd. 1: Grundlagen. Der Aufbau der Verbrechenslehre  , Munich ,: published by C.H.Beck, 4th edition.

63) Schröder , Horst؛ Schönke ,Adolf ;Cramer, Peter,(2006) Strafgesetzbuch: Kommentar, Munich : published by C.H.Beck.

64) Schulhofer, Stephen؛ Kadish,Sanford؛ Barkow , Rachel ؛ (2016), Criminal Law and Its Processes: Cases and Materials,10edition, Alphen aan den Rijn (Netherlands): Published by  Wolters Kluwer.

65) Strader, Kelly ؛ (2011),Understanding White Collar Crime , New York: published by LexisNexis, Third edition.

66) Stratenwerth, Guner ؛ (2011),Schweizerisches Strafrecht, Allgemeiner Teil I, , bern: published by stampfli, 4th edition.

67) Summers, Sarah ؛ (2015), »EU Criminal Law and the Regulation of Information and Communication Technology«,  BERGEN journal of criminal law and criminal justice, No.1,Vol.3.

68) Tabarrok, Alex ؛ (2012),»The Google-Trolley Problem«, acces: https://marginalrevolution.com/marginalrevolution/2012/06/the-google-trolley-problem.html

69) Turner, Jacob(2019), Robot Rules: Regulating Artificial Intelligence,Cham (Swiss) : published by springer nature.

70) Walker Smit, Bryant ؛ (2014),» Proximity-Driven Liability «, George Town law Journal , Vol.102(1777).

71) Weisser, Bettina؛ (2013), «Ist das Konzept strafrechtlicher Schuld nach § 20 StGB durch die Erkenntnisse der Neurowissenschaften widerlegt? «, Goltdammer's Archiv für Strafrecht, No.1,Vol.160.

72) Westenberg, Brian؛Kolodge, Kristin ؛ Georgieva,Tina ؛ Boor,Lisa,(2018),Automated vehicles: liability crash course ,Michigan: published by J.D. Power and Miller Canfield.

 

CAPTCHA Image