Эволюция роботов и право XXI в.

Статья в Elpub

Вестник Томского государственного университета. 2018; : 215-233

Эволюция роботов и право XXI в.

Аннотация

Проводится анализ правового режима роботов в России и за рубежом, оцениваются нормотворческие инициативы. По мнению авторов, в настоящее время ставить вопрос о наделении роботов правосубъектностью преждевременно, однако в перспективе он рано или поздно войдет в юридическую повестку. В статье предложены возможные модели будущего регулирования сферы робототехники.

Список литературы

1. Степин В.С. Цивилизация и культура. СПб. : СПб ГУП, 2011. 408 с.

2. Воротников С. А. Информационные устройства робототехнических систем. М. : Изд-во МГТУ им. Н.Э. Баумана, 2005. 384 с.

3. Постановление Госкомтруда СССР, Секретариата ВЦСПС от 26 июня 1989 г. № 213/11-39 «О внесении дополнений в Единый тарифноквалификационный справочник работ и профессий рабочих, выпуск 2, утвержденный постановлением Госкомтруда СССР и Секретариата ВЦСПС от 16 января 1985 г. № 17/2-54, с дополнениями, утвержденными постановлением Госкомтруда СССР и Секретариата ВЦСПС от 23 июня 1986 г. № 234/14-55». URL: www.consultant.ru

4. Концепция совершенствования организации и нормирования труда в условиях перехода к рыночной экономике, утвержденная постанов лением Госкомтруда СССР от 14 ноября 1990 г. № 429 «О концепции совершенствования организации и нормирования труда в условиях перехода к рыночной экономике». URL: www.consultant.ru.

5. Макаров И.М., Топчеев Ю.И. Робототехника: история и перспективы. М. : Наука; Изд-во МАИ, 2003. 349 с.

6. Рассел С., Норвиг П. Искусственный интеллект: современный подход. М. : ООО «И.Д. Вильямс», 2018. 1408 с.

7. Хайкин С. Нейронные сети: полный курс. 2-е изд. М. : ООО «И.Д. Вильямс», 2018. 1104 с.

8. Хабриева Т.Я., Черногор Н.Н. Право в условиях цифровой реальности // Журнал российского права. 2018. № 1. С. 85-102.

9. Keisner A., Raffo J., Wunsch-Vincent S. Robotics: Breakthrough Technologies, Innovation, Intellectual Property // Foresight and STI Governance. 2016. Vol. 10, № 2. P. 7-27.

10. Hoadley D., Lucas N. Artificial Intelligence and National Security. Congressional Research Service. April 26, 2018. 142 p.

11. Eidenmueller H. The Rise of Robots and the Law of Humans (March 26, 2017). Oxford Legal Studies Research Paper. 2017. № 27. Available at SSRN. URL: https://ssrn.com/abstract =2941001 or http://dx.doi.org/10.2139/ssrn.2941001 (дата обращения: 15.08.2018).

12. Richards N.M., Smart W.D. How should the Law Think about Robots? // Robot Law. Ed. by R. Calo, A.M. Froomkin, I. Kerr. Cheltenham, UK. Northampton, USA. Edward Elgar Publishing. 2016. 402 p.

13. Calo R. Robotics and the new cyberlaw. 2014. URL: https://www.researchgate.net/ publication/272547345_Robotics_and_the_New_Cyberlaw (дата обращения: 28.08.2018).

14. Хаванова И. А. Виртуальное и реальное: теория потоков в контексте налогово-правового регулирования // Финансовое право. 2017. № 4. С. 35-40.

15. Ролинсон П., Ариевич Е.А., Ермолина Д.Е. Объекты интеллектуальной собственности, создаваемые с помощью искусственного интеллекта: особенности правового режима в России и за рубежом // Закон. 2018. № 5. С. 63-71.

16. Matthias A. The responsibility gap: Ascribing responsibility for the actions of learning automata // Ethics and information technology. 2004. № 6 (3). P. 175-183.

17. Stephen Hawking: Transcendence looks at the implications of artificial intelligence - but are we taking AI seriously enough? // Independent. Thursday 1 May 2014. URL: https://www.independent.co.uk/news/science/stephen-hawking-transcendence-looks-at-the-implications-of-artificial-intelligence-but-are-we-taking-9313474.html (дата обращения: 01.09.2018).

18. Форд М. Роботы наступают: развитие технологий и будущее без работы. М. : Альпина нон-фикшн, 2016. 430 c.

19. Маск И. Интервью, данное на World Government Summit в Дубае. URL: https://www.youtube.com/watch?v=0Nbs6QRClqQ (дата обращения: 01.09.2018).

20. Новицкая Ю., Каляев И. Миф об искусственном интеллекте. Беседа с членом-корреспондентом РАН, профессором Игорем Каляевым. URL: http://zavtra.ru/blogs/mif-ob-iskusstvennom-intellekte.; http://www.ras.ru/digest/showdnews.aspx?id=8d311816-7c78-4892-a202-1ccbf2983b09 (дата обращения: 15.08.2018).

21. Fox S. Cyborgs, Robots and Society: Implications for the Future of Society from Human Enhancement with In-The-Body Technologies // Technologies. 2018. URL: https://www.mdpi.com/journal/technologies (дата обращения: 15.08.2018).

22. Пушкарев А.В. Философские основания искусственного интеллекта : дис.. канд. философских наук. Уфа, 2017. 164 с.

23. Степин В.С., Аршинов В.И., Гусейнов А.А., Лекторский В.А., Пружинин Б.И., Федотова В.Г. Анализ структуры и динамики науки в социокультурном контексте. Материалы обсуждения избранных трудов В.С. Степина // Вопросы философии. 2017. № 12. С. 5-31.

24. Yampolskiy R.V., Fox J. Artificial General Intelligence and the Human Mental Model. In Singularity Hypotheses: A Scientific and Philosophical Assessment. Edited by Amnon Eden, Johnny Seraker, James H. Moor, and Eric Steinhart. Berlin : Springer. 2012. URL: https://intelligence.org/files/AGI-HMM.pdf (дата обращения: 15.08.2018).

25. Гаджиев Г.А. Является ли робот-агент лицом? (Поиск правовых форм для регулирования экономики) // Журнал российского права. 2018. № 1. С. 15-30.

26. Габов А.В. Правосубъектность: традиционная категория права в современную эпоху // Вестник Саратовской государственной юридической академии. 2018. № 2(121). С. 105-121.

27. Морхат П.М. Искусственный интеллект: правовой взгляд: Научная монография. М. : Буки Веди, 2017. 257 с.

28. Ястребов О.Я. Правосубъектность электронного лица: теоретико-методологические подходы // Труды Института государства и права РАН. 2018. Том 13. № 2. С. 36-55.

29. Архипов В.В., Наумов В.Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. № 5. С. 157-170.

30. Иванов А.А. Мечтают ли андроиды об электроовцах? (15.02.2017). URL: https://zakon.ru/blog/2017/02/15/mechtayut_li_androidy _ob_elektroovcah (дата обращения: 26.08.2018).

31. Незнамов А.В., Наумов В.Б. Вопросы развития законодательства о робототехнике в России и в мире // Юридические исследования. 2017. № 8. С. 14-25.

32. Классификатор ЕСКД. Класс 44. Оборудование технологическое специфическое», утвержденное постановлением Госстандарта СССР от 6 сентября 1979 г. № 100; «ГОСТ 26329-84 (СТ СЭВ 4292-83). Государственный стандарт Союза ССР. Машины вычислительные и системы обработки данных. Допустимые уровни шума технических средств и методы их определения», утв. Постановлением Совмина РСФСР от 30 июня 1987 г. № 275 «О мерах по дальнейшему совершенствованию работы жилищно-коммунального хозяйства в РСФСР»; «Общесоюзный классификатор. Стандарты и технические условия. ОКСТУ 1 80 011», утвержденный решением Госстандарта СССР от 13 ноября 1980 г. № 38. URL: www.consultant.ru

33. «ГОСТ Р 54344-2011. Национальный стандарт Российской Федерации. Техника пожарная. Мобильные робототехнические комплексы для проведения аварийно-спасательных работ и пожаротушения. Классификация. Общие технические требования. Методы испытаний», утвержденный введенный в действие Приказом Росстандарта от 28 июня 2011 г. № 158-ст; «ОК 029-2014 (КДЕС Ред. 2). Общероссийский классификатор видов экономической деятельности», утвержденный приказом Росстандарта от 31 января 2014 г. № 14-ст; «ГОСТ Р ИСО 9999-2014. Национальный стандарт Российской Федерации. Вспомогательные средства для людей с ограничениями жизнедеятельности. Классификация и терминология», утвержденный и введенный в действие приказом Росстандарта от 23 сентября 2014 г. № 1177-ст; «ГОСТ Р 60.0.0.2-2016. Национальный стандарт Российской Федерации. Роботы и робототехнические устройства. Классификация», утвержденный и введенный в действие приказом Росстандарта от 29 ноября 2016 г. № 1842-ст.

34. ОК 029-2014 (КДЕС Ред. 2). Общероссийский классификатор видов экономической деятельности, утвержденный приказом Росстандар-та от 31 января 2014 г. № 14-ст.

35. ISO 8373:2012 «Robots and robotic devices. Classification». URL: https://www.iso.org/standard/55890.html (дата обращения: 01.09.2018).

36. Стратегия развития информационного общества в Российской Федерации на 2017-2030 годы, утвержденная Указом Президента Российской Федерации от 9 мая 2017 г. № 203. URL: www.consultant.ru

37. Перечень поручений по итогам встречи с участниками форума «Интернет-предпринимательство в России», состоявшейся 10 июня 2014 года. URL: http://kremlin.ru/acts/assignments/orders/46152 (дата обращения: 01.09.2018))

38. Стратегия национальной безопасности Российской Федерации Утверждена Указом Президента Российской Федерации от 31 декабря 2015 г. № 683. URL: www.consultant.ru

39. Программа «Цифровая экономика Российской Федерации», утверждена распоряжением Правительства Российской Федерации от 28 июля 2017 г. № 1632-р. URL: www.consultant.ru

40. Указ Президента Российской Федерации от 7 мая 2018 г. № 204 «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года». URL: www.consultant.ru

41. Перечень поручений от 16 марта 2018 по реализации Послания Президента Российской Федерации Федеральному Собранию Российской Федерации от 1 марта 2018 г. URL: www.consultant.ru

42. Проект закона «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники». URL: //https://vk.com/ doc3420_439923163?hash=0a76aafed49c254276& dl=a16c15f566c9bef73f (дата обращения: 26.08.2018).

43. Архипов В.В., Наумов В.Б. Информационно-правовые аспекты формирования законодательства о робототехнике // Информационное право. 2017. № 1. С. 19-27.

44. Шустиков В. Коллизии «права роботов». URL: http://sk.ru/news/b/press/archive/2017/05/25/kollizii-_1c20_prava-robotov_1d20_.aspx (дата обращения: 25.08.2018).

45. Закон об умных роботах. URL: http://elaw.klri.re.kr/eng_mobile/viewer.do?hseq=17399&type=part&key=18 (дата обращения: 25.08.2018).

46. Закон о дорожном движении от 17 июня 2010 г. https://v1.juristaitab.ee /sites/ www.juristaitab.ee/files/elfinder/ru-seadused/%D0%97%D0%90%D0%9A%D0%9E%D0%9D%20%D0%9E%20%D0%94%D0%9E%D0%A0%D0%9E%D0%96% D0%9D%D0%9E%D0%9C%20%D0%94%D0%92%D0%98%D0%96%D0%95%D0%9D%D0%98%D0%98% 2002.07. 2018.pdf (дата обращения: 25.08.2018).

47. Закон о дорожном движении от 16 июня 2017. URL: https://www.bgbl.de/xaver/bgbl/ start. xav?start = %2F%2F *%5B%40attr_id%3D%27bgbl117s1648.pdf%27%5D#_bgbl_%2F%2F*%5B%40attr_id%3D%27bgbl117s1648.pdf%27%5D_1533560692 (дата обращения: 06.08.2018).

48. Cuthbert O. Saudi Arabia becomes first country to grant citizenship to a robot. URL: http://www.arabnews.com/node/1183166/saudi-arabia (дата обращения: 26.08.2018).

49. Greene T. Opinion: Saudi Arabia was wrong to give citizenship to a robot. URL: https://thenextweb.com/artificial-intelligence/2017/10/31/opinion-saudi-arabia-was-wrong-to-give-citizenship-to-a-robot/ (дата обращения: 26.08.2018).

50. Solum L. Legal Personhood for Artificial Intelligences // North Carolina Law Review, (April 1992). URL: http://scholarship.law.unc.edu/cgi/viewcontent.cgi?article=3447&context=nclr (дата обращения: 26.08.2018).

51. Gray J. The nature and sources ofthe Law. New York. The Columbia University Press. 1909. 349 p.

52. Filipe M. The Legal Status of Artificially Intelligent Robots: Personhood, Taxation and Control (June 1, 2017). Available at SSRN. URL: https://ssrn.com/abstract= 2985466 or http://dx.doi.org/ 10.2139/ssrn.2985466 (дата обращения: 26.08.2018).

53. Wein L. The Responsibility of Intelligent Artifacts: Toward an Automation Jurisprudence // Harvard Journal of Law & Technology. 1992. Vol. 6, Fall Issue. P. 103-154.

54. Asaro P.M. Robots and Responsibility from a Legal Perspective. 2007. URL: http://www.peterasaro. org/writing/ASAR0%20Legal%20Perspective.pdf (дата обращения: 21.08.2018).

55. Dvorsky G. When will robots deserve human rights. URL: https://gizmodo.com/when-will-robots-deserve-human-rights-1794599063 (дата обращения: 27.08.2018 г.).

56. Darling K. Extending Legal Rights to Social Robots. 2012. URL: http://robots.law.miami.edu/wp-content/uploads/2012/03/Darling_Extending-Legal-Rights-to-Social-Robots.pdf (дата обращения: 27.08.2018 г.).

57. Callahan M. Should robots have rights? URL: https://phys.org/news/2017-12-robots-rights.html (дата обращения: 21.08.2018).

58. Dvorsky G. When the Turing Test is not enough: Towards a functionalist determination of consciousness and the advent of an authentic machine ethics. URL: http://www.sentientdevelopments.com/2012/03/when-turing-test-is-not-enough-towards.html (дата обращения: 21.08.2018).

59. Siddique A. Robot rights? URL: https://www.citylawsociety.co.uk/single-post/2017/12/18/R0B0T-RIGHTS (дата обращения: 21.08.2018).

60. Renstrom J. Should Robots Have Rights? URL: https://www.thedailybeast.com/should-robots-have-rights (дата обращения: 21.08.2018).

61. Bryson J. Robots Should Be Slaves // http://www.cs.bath.ac.uk/~jjb/ftp/Bryson-Slaves-Book09.html (дата обращения: 21.08.2018).

62. Nevejans N. European civil law rules in robotics: study for the JURI Committee. European Parliament. Directorate-General for Internal Policies, Policy Department C, Citizens' Rights and Constitutional Affairs, Legal Affairs. 2016. URL: http://www.europarl.europa.eu/RegData/etudes/ STUD/ 2016/571379/IP0L_STU(2016)571379_EN.pdf (дата обращения: 21.08.2018).

63. Азимов А. Runaround / I, Robot = Я, робот. СПб. : Антология, 2018. 320 с.

64. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)). URL: http://www.europarl.europa.eu/sides/getDoc.do?type =TA&language=EN&reference=P8-TA-2017-0051#BKMD-12 (дата обращения: 01.08.2018). Перевод на русский язык доступен: http://robopravo.ru/riezoliutsiia_ies (дата обращения: 21.08.2018).

65. Caytas J. European Perspectives on an Emergent Law of Robotics (April 4, 2017). Columbia Journal of European Law : Preliminary Reference (Apr. 4, 2017). Available at SSRN. URL: https://ssrn.com/abstract=2956958/ (дата обращения: 21.08.2018).

66. Bickerstaff R. Do we need robot law?. URL: https://www.britac.ac.uk/events/do-we-need-robot-law (дата обращения: 15.08.2018).

67. Open letter to the European commission artificial intelligence and robotics. URL: http://www.robotics-openletter.eu/ (дата обращения: 21.08.2018).

68. Artificial intelligence: Commission outlines a European approach to boost investment and set ethical guidelines. URL: http://europa.eu/rapid/press-release_IP-18-3362_en.htm (дата обращения: 21.08.2018).

69. Burri T. The EU is right to refuse legal personality for Artificial Intelligence. URL: https://www.euractiv.com/section/digital/opinion/the-eu-is-right-to-refuse-legal-personality-for-artificial-intelligence/ (дата обращения: 29.08.2018).

70. Declaration of cooperation on Artificial Intelligence. URL: https://ec.europa.eu/ jrc/communities/ sites/ jrccties/ files/ 2018aideclarationatdigitaldaydocxpdf.pdf (дата обращения: 29.08.2018).

71. Распоряжение Евразийского межправительственного совета от 7 марта 2017 г. № 2 «О сферах экономики, обладающих интеграционным потенциалом в Евразийском экономическом союзе, и мерах, направленных на его использование». URL: www.consultant.ru

72. Архипов С.И. Субъект права: теоретическое исследование. СПб. : Изд-во Р. Асланова «Юридический центр Пресс». 2004. 469 с.

73. Darling K., Nandy P., Breazeal C. Empathic Concern and the Effect of Stories in Human-Robot Interaction (February 1, 2015). Proceedings of the IEEE International Workshop on Robot and Human Communication (ROMAN), 2015. Available at SSRN. URL:: https://ssrn.com/abstract=2639689 (дата обращения: 21.08.2018).

74. Hartzog W. Unfair and Deceptive Robots // 74 Md. L. Rev. 785 (2015). P. 785-829.

75. Bayern Sh. The Implications of Modern Business-Entity Law for the Regulation of Autonomous Systems // 19 Stanford Technology Law Review 93 (2015). P. 93-112.

76. Straub J. Does regulating artificial intelligence save humanity or just stifle innovation? (October 23, 2017). URL: https://theconversation.com/does-regulating-artificial-intelligence-save-humanity-or-just-stifle-innovation-85718 (дата обращения: 31.08.2018).

77. Etzioni O. How to Regulate Artificial Intelligence. URL: https://www.nytimes.com/2017/09/01/opinion/artificial-intelligence-regulations-rules.html (дата обращения: 31.08.2018).

78. Ястребов О.А. Искусственный интеллект в правовом пространстве: концептуальные и теоретические подходы // Правосубъектность: общетеоретический, отраслевой и международно-правовой анализ : сб. материалов к XII Ежегодным научным чтениям памяти проф. С.Н. Братуся. М. : Статут, 2017. С. 271-283.

79. Zimmerman E. Machine Minds: Frontiers in Legal Personhood (February 12, 2015). Available at SSRN. URL: https://ssrn.com/abstract=2563965 or http://dx.doi.org/10.2139/ssrn.2563965 (дата обращения: 31.08.2018).

80. Бенасайяг М. Мышление за пределами мозга // Искусственный интеллект: перспективы и угрозы. Курьер ЮНЕСКО. Июль-сентябрь 2018 г. URL: http://unesdoc.unesco.org/ images /0026/ 002652/265211r.pdf (дата обращения: 31.08.2018).

81. Пахман С. О задачах предстоящей реформы акционерного законодательства. Речь, написанная для произнесения в торжественном собрании Императорского Харьковского университета, 30 августа 1861 года. Харьков : В Университетской Типографии, 1861. 159 с.

82. Кавелин К. Права и обязанности по имуществам и обязательствам. В применении к русскому законодательству. Опыт систематического обозрения. С.-Петербург : Типография М.М. Стасюлевича, 1879. 143 с.

83. Азаревич Д. А. Юридические лица // Временник Демидовского юридического лицея. Книга двадцать восьмая. Ярославль : В типографиях: Губернского Правления, Земской Управы и г. Фальке в Ярославле, 1882. С. 1-84.

84. Guihot M., Matthew A. F., Suzor N. P. Nudging robots: Innovative solutions to regulate artificial intelligence. Vanderbilt Journal of Entertainment & Technology Law. 2017. URL: http://www.jetlaw.org/wp-content/uploads/2017/12/2_Guihot-Article_Final-Review-Complete_Approved.pdf (дата обращения: 01.09.2018).

85. Hallevy G. The Criminal Liability of Artificial Intelligence Entities - from Science Fiction to Legal Social Control // Akron Intellectual Property Journal: 2010. Vol. 4, is. 2. Article 1. P. 171-201.

86. Gless S., Silverman E., Weigend T. If Robots Cause Harm, Who Is to Blame? Self-Driving Cars and Criminal Liability (January 29, 2016). Available at SSRN: https://ssrn.com/abstract=2724592 or http://dx.doi.org/10.2139/ssrn.2724592 (дата обращения: 01.09.2018).

87. Muehlhauser L., Salamon A. Intelligence explosion: Evidence and import. In Singularity hypotheses: A scientific and philosophical assessment, ed. A. Eden, J. Seraker, J. H. Moor, and E. Steinhart. The Frontiers Collection. Berlin : Springer. 2012. URL: https://intelligence.org/files/IE-EI.pdf (дата обращения: 01.09.2018).

88. Харари Ю.Н. Sapiens. Краткая история человечества / Юваль Ной Харари; пер. с англ. Л. Сумм. М. : Синдбад, 2017. 570 с.

89. Anderson K., Waxman M. Law and Ethics for Robot Soldiers (April 5, 2012). Policy Review, 2012; Columbia Public Law Research Paper No. 12-313; American University, WCL Research Paper № 2012-32. Available at SSRN. URL: https://ssrn.com/abstract=2046375 (дата обращения: 01.09.2018).

90. Anderson K., Waxman M. Law and Ethics for Autonomous Weapon Systems: Why a Ban Won't Work and How the Laws of War Can (April 10, 2013). Stanford University, The Hoover Institution (Jean Perkins Task Force on National Security and Law Essay Series), 2013; American University, WCL Research Paper 2013-11; Columbia Public Law Research Paper 13-351. Available at SSRN. URL: https://ssrn.com/abstract=2250126 or http://dx.doi.org/10.2139/ssrn.2250126 (дата обращения: 01.09.2018).

91. Anderson K., Waxman M. Debating Autonomous Weapon Systems, Their Ethics, and Their Regulation Under International Law (February 28, 2017). Roger Brownsword, Eloise Scotford, Karen Yeung, eds., The Oxford Handbook of Law, Regulation, and Technology (Oxford University Press, July 2017), Chapter 45; Columbia Public Law Research Paper No. 14-553; American University, WCL Research Paper No. 2017-21. Available at SSRN. URL: https://ssrn.com/abstract=2978359 (дата обращения: 01.09.2018).

92. Asaro P. On Banning Autonomous Weapon Systems: Human Rights, Automation, and the Dehumanisation of Lethal Decision-making // International Review of the Red Cross. Volume 94. Number 886. Summer 2012. P. 687-709.

93. Promotion and protection of all human rights, civil, political, economic, social and cultural rights, including the right to development. Report of the Special Rapporteur on extrajudicial, summary or arbitrary executions, Christof Heyns (9 April 2013). URL: https://www.ohchr.org/Documents/HRBodies/HRCouncil/RegularSession/Session23/A-HRC-23-47_en.pdf (дата обращения: 30.08.2018).

94. https://www.unog.ch/80256EE600585943/(httpPages)/F027DAA4966EB9C7C12580CD0039D7B5 (дата обращения: 05.09.2018).

95. Emerging Commonalities, Conclusions and Recommendations. URL: https://www.unog.ch/80256EDD006B8954 /(httpAssets)/EB4EC9367D3B63B1C12582FD0057A9A4/$file/GGE+LAWS+August_EC,+C+and+Rs_final.pdf (дата обращения: 05.09.2018).

96. Рассмотрение различных аспектов новых технологий в сфере создания смертоносных автономных систем вооружений в контексте целей и задач Конвенции (Представлено Российской Федерацией). Женева, 13-17 ноября 2017 г. URL: https://www.unog.ch /80256EDD006B8954/ (httpAssets)/ E9178CB855E3D8EDC12581D70065EF31 /$file/ 2017_GGEonLAWS_WP_Russian.pdf (дата обращения: 01.08.2018).

97. Доклад Независимого эксперта по вопросу об осуществлении пожилыми людьми всех прав человека для Совета по правам человека при ООН // A/HRC/36/48. Совет по правам человека. Тридцать шестая сессия. 11-29 сентября 2017 г. URL: http://digitallibrary.un.org/record/1304243/files/A_HRC_36_48-RU.pdf (дата обращения: 01.09.2018).

98. Федеральный закон от 20 мая 2002 г. № 54-ФЗ (ред. от 29.03.2010) «О временном запрете на клонирование человека». URL: www.consultant.ru

99. Шершеневич Г.Ф. Общая теория права. Лекции профессора Московского университета Г.Ф. Шершеневича, читанные в Московском Коммерческом институте в 1909/10 академ. году. Редактированное автором издание Студ. комиссии общ-ва взаимопом. С.К.И. Бг, 1910. 320 с.

100. Переверзев С., Подолин А. Социальная математика = право. Новый язык юридической науки. URL: http://speranskylabs.ru/ (дата обращения: 01.09.2018).

101. Иванов А. А. О глубине машинизации права // Закон. 2018. № 5. С. 35-41.

102. Pasquale F. The Black Box Society: The Secret Algorithms That Control Money and Information // Harvard University Press. 2015. 311 p.

103. Регламент Европейского парламента и Совета Европейского Союза № 2016/679 от 27 апреля 2016 г. «О защите физических лиц при обработке персональных данных и о свободном обращении таких данных, а также об отмене Директивы 95/46/ЕС».

104. Goodman B. A Step Towards Accountable Algorithms? Algorithmic Discrimination and the European Union General Data Protection // 29th Conference on Neural Information Processing Systems. Barcelona, Spain. 2016. URL: http://www.mlandthelaw.org/papers/goodman1.pdf (дата обращения: 01.09.2018).

105. Joshua N., Castro D. How Policymakers Can Foster Algorithmic Accountability. 2018. May 21. URL: https://itif.org/ publica-tions/2018/05/21/how-policymakers-can-foster-algorithmic-accountability (дата обращения: 01.09.2018).

106. Guidelines on Regulating Robotics. 2014. URL: http://www.robolaw.eu/ RoboLaw_files/ documents/robolaw_d6.2_ guidelinesregulatingrobot-ics_20140922.pdf (дата обращения: 15.08.2018).

Tomsk State University Journal. 2018; : 215-233

Evolution of robots and the 21st-century law

Gabov A. V., Khavanova I. A.

Abstract

The aim of this article is evaluation of the legal regime of robotics in Russia and abroad, and determination of the directions of the development of legal regulation of this sphere of robotics on its basis. This aim determines the objectives of the research. A dialectical method of science allowed the authors to conduct analysis and evaluation of the legal regime of robotics. Using a historical method, the authors identified tendencies of the evolution of robotics and particularities of the legal regime of robots in Russia and abroad. A comparative legal method allowed the authors to give evaluation of already existing regulatory initiatives, to determine social, legal, ethical problems and risks, to suggest possible models of regulating the sphere of robotics. The authors come to following conclusions. Nowadays, it is too early to raise the issue of giving robots a legal status. At present, even the most "advanced" intellectual robots should be admitted as "sui generis property". In the frame of this model, which seems revolutionary enough itself to the authors of this article, it is possible to decide practical problems arising with evolution of robots. Artificial intelligence becomes more and more advanced, that is why in the nearest future the question on subjectivity may be not only a theoretical matter, but a practical problem for the legal system. It is apparent that there is a question for law to create a new subject of law. Meanwhile, it is highly likely that at one point of technological evolution it will be necessary to head down the way of creation of a legal person (legal entity in its classical understanding). Throughout the construction of legal entity it is possible to endue any phenomenon (natural object, creature, fictional subject) with subjectivity. Every functional well developed electronic/ mechanic individual should have a "tutor", which will allow to deal with problems of legal representation. For certain categories of robots there should be qualified persons responsible for a range of duties of public nature. The authors come to a conclusion that it is necessary to find a delicate balance between advantages and socio-economic risks of robotics in the context of legal regulation. We should not build a society where a robot is a norm and man is an exception.

References

1. Stepin V.S. Tsivilizatsiya i kul'tura. SPb. : SPb GUP, 2011. 408 s.

2. Vorotnikov S. A. Informatsionnye ustroistva robototekhnicheskikh sistem. M. : Izd-vo MGTU im. N.E. Baumana, 2005. 384 s.

3. Postanovlenie Goskomtruda SSSR, Sekretariata VTsSPS ot 26 iyunya 1989 g. № 213/11-39 «O vnesenii dopolnenii v Edinyi tarifnokvalifikatsionnyi spravochnik rabot i professii rabochikh, vypusk 2, utverzhdennyi postanovleniem Goskomtruda SSSR i Sekretariata VTsSPS ot 16 yanvarya 1985 g. № 17/2-54, s dopolneniyami, utverzhdennymi postanovleniem Goskomtruda SSSR i Sekretariata VTsSPS ot 23 iyunya 1986 g. № 234/14-55». URL: www.consultant.ru

4. Kontseptsiya sovershenstvovaniya organizatsii i normirovaniya truda v usloviyakh perekhoda k rynochnoi ekonomike, utverzhdennaya postanov leniem Goskomtruda SSSR ot 14 noyabrya 1990 g. № 429 «O kontseptsii sovershenstvovaniya organizatsii i normirovaniya truda v usloviyakh perekhoda k rynochnoi ekonomike». URL: www.consultant.ru.

5. Makarov I.M., Topcheev Yu.I. Robototekhnika: istoriya i perspektivy. M. : Nauka; Izd-vo MAI, 2003. 349 s.

6. Rassel S., Norvig P. Iskusstvennyi intellekt: sovremennyi podkhod. M. : OOO «I.D. Vil'yams», 2018. 1408 s.

7. Khaikin S. Neironnye seti: polnyi kurs. 2-e izd. M. : OOO «I.D. Vil'yams», 2018. 1104 s.

8. Khabrieva T.Ya., Chernogor N.N. Pravo v usloviyakh tsifrovoi real'nosti // Zhurnal rossiiskogo prava. 2018. № 1. S. 85-102.

9. Keisner A., Raffo J., Wunsch-Vincent S. Robotics: Breakthrough Technologies, Innovation, Intellectual Property // Foresight and STI Governance. 2016. Vol. 10, № 2. P. 7-27.

10. Hoadley D., Lucas N. Artificial Intelligence and National Security. Congressional Research Service. April 26, 2018. 142 p.

12. Richards N.M., Smart W.D. How should the Law Think about Robots? // Robot Law. Ed. by R. Calo, A.M. Froomkin, I. Kerr. Cheltenham, UK. Northampton, USA. Edward Elgar Publishing. 2016. 402 p.

13. Calo R. Robotics and the new cyberlaw. 2014. URL: https://www.researchgate.net/ publication/272547345_Robotics_and_the_New_Cyberlaw (data obrashcheniya: 28.08.2018).

14. Khavanova I. A. Virtual'noe i real'noe: teoriya potokov v kontekste nalogovo-pravovogo regulirovaniya // Finansovoe pravo. 2017. № 4. S. 35-40.

15. Rolinson P., Arievich E.A., Ermolina D.E. Ob\"ekty intellektual'noi sobstvennosti, sozdavaemye s pomoshch'yu iskusstvennogo intellekta: osobennosti pravovogo rezhima v Rossii i za rubezhom // Zakon. 2018. № 5. S. 63-71.

16. Matthias A. The responsibility gap: Ascribing responsibility for the actions of learning automata // Ethics and information technology. 2004. № 6 (3). P. 175-183.

18. Ford M. Roboty nastupayut: razvitie tekhnologii i budushchee bez raboty. M. : Al'pina non-fikshn, 2016. 430 c.

19. Mask I. Interv'yu, dannoe na World Government Summit v Dubae. URL: https://www.youtube.com/watch?v=0Nbs6QRClqQ (data obrashcheniya: 01.09.2018).

20. Novitskaya Yu., Kalyaev I. Mif ob iskusstvennom intellekte. Beseda s chlenom-korrespondentom RAN, professorom Igorem Kalyaevym. URL: http://zavtra.ru/blogs/mif-ob-iskusstvennom-intellekte.; http://www.ras.ru/digest/showdnews.aspx?id=8d311816-7c78-4892-a202-1ccbf2983b09 (data obrashcheniya: 15.08.2018).

22. Pushkarev A.V. Filosofskie osnovaniya iskusstvennogo intellekta : dis.. kand. filosofskikh nauk. Ufa, 2017. 164 s.

23. Stepin V.S., Arshinov V.I., Guseinov A.A., Lektorskii V.A., Pruzhinin B.I., Fedotova V.G. Analiz struktury i dinamiki nauki v sotsiokul'turnom kontekste. Materialy obsuzhdeniya izbrannykh trudov V.S. Stepina // Voprosy filosofii. 2017. № 12. S. 5-31.

25. Gadzhiev G.A. Yavlyaetsya li robot-agent litsom? (Poisk pravovykh form dlya regulirovaniya ekonomiki) // Zhurnal rossiiskogo prava. 2018. № 1. S. 15-30.

26. Gabov A.V. Pravosub\"ektnost': traditsionnaya kategoriya prava v sovremennuyu epokhu // Vestnik Saratovskoi gosudarstvennoi yuridicheskoi akademii. 2018. № 2(121). S. 105-121.

27. Morkhat P.M. Iskusstvennyi intellekt: pravovoi vzglyad: Nauchnaya monografiya. M. : Buki Vedi, 2017. 257 s.

28. Yastrebov O.Ya. Pravosub\"ektnost' elektronnogo litsa: teoretiko-metodologicheskie podkhody // Trudy Instituta gosudarstva i prava RAN. 2018. Tom 13. № 2. S. 36-55.

29. Arkhipov V.V., Naumov V.B. O nekotorykh voprosakh teoreticheskikh osnovanii razvitiya zakonodatel'stva o robototekhnike: aspekty voli i pravosub\"ektnosti // Zakon. 2017. № 5. S. 157-170.

30. Ivanov A.A. Mechtayut li androidy ob elektroovtsakh? (15.02.2017). URL: https://zakon.ru/blog/2017/02/15/mechtayut_li_androidy _ob_elektroovcah (data obrashcheniya: 26.08.2018).

31. Neznamov A.V., Naumov V.B. Voprosy razvitiya zakonodatel'stva o robototekhnike v Rossii i v mire // Yuridicheskie issledovaniya. 2017. № 8. S. 14-25.

32. Klassifikator ESKD. Klass 44. Oborudovanie tekhnologicheskoe spetsificheskoe», utverzhdennoe postanovleniem Gosstandarta SSSR ot 6 sentyabrya 1979 g. № 100; «GOST 26329-84 (ST SEV 4292-83). Gosudarstvennyi standart Soyuza SSR. Mashiny vychislitel'nye i sistemy obrabotki dannykh. Dopustimye urovni shuma tekhnicheskikh sredstv i metody ikh opredeleniya», utv. Postanovleniem Sovmina RSFSR ot 30 iyunya 1987 g. № 275 «O merakh po dal'neishemu sovershenstvovaniyu raboty zhilishchno-kommunal'nogo khozyaistva v RSFSR»; «Obshchesoyuznyi klassifikator. Standarty i tekhnicheskie usloviya. OKSTU 1 80 011», utverzhdennyi resheniem Gosstandarta SSSR ot 13 noyabrya 1980 g. № 38. URL: www.consultant.ru

33. «GOST R 54344-2011. Natsional'nyi standart Rossiiskoi Federatsii. Tekhnika pozharnaya. Mobil'nye robototekhnicheskie kompleksy dlya provedeniya avariino-spasatel'nykh rabot i pozharotusheniya. Klassifikatsiya. Obshchie tekhnicheskie trebovaniya. Metody ispytanii», utverzhdennyi vvedennyi v deistvie Prikazom Rosstandarta ot 28 iyunya 2011 g. № 158-st; «OK 029-2014 (KDES Red. 2). Obshcherossiiskii klassifikator vidov ekonomicheskoi deyatel'nosti», utverzhdennyi prikazom Rosstandarta ot 31 yanvarya 2014 g. № 14-st; «GOST R ISO 9999-2014. Natsional'nyi standart Rossiiskoi Federatsii. Vspomogatel'nye sredstva dlya lyudei s ogranicheniyami zhiznedeyatel'nosti. Klassifikatsiya i terminologiya», utverzhdennyi i vvedennyi v deistvie prikazom Rosstandarta ot 23 sentyabrya 2014 g. № 1177-st; «GOST R 60.0.0.2-2016. Natsional'nyi standart Rossiiskoi Federatsii. Roboty i robototekhnicheskie ustroistva. Klassifikatsiya», utverzhdennyi i vvedennyi v deistvie prikazom Rosstandarta ot 29 noyabrya 2016 g. № 1842-st.

34. OK 029-2014 (KDES Red. 2). Obshcherossiiskii klassifikator vidov ekonomicheskoi deyatel'nosti, utverzhdennyi prikazom Rosstandar-ta ot 31 yanvarya 2014 g. № 14-st.

35. ISO 8373:2012 «Robots and robotic devices. Classification». URL: https://www.iso.org/standard/55890.html (data obrashcheniya: 01.09.2018).

36. Strategiya razvitiya informatsionnogo obshchestva v Rossiiskoi Federatsii na 2017-2030 gody, utverzhdennaya Ukazom Prezidenta Rossiiskoi Federatsii ot 9 maya 2017 g. № 203. URL: www.consultant.ru

37. Perechen' poruchenii po itogam vstrechi s uchastnikami foruma «Internet-predprinimatel'stvo v Rossii», sostoyavsheisya 10 iyunya 2014 goda. URL: http://kremlin.ru/acts/assignments/orders/46152 (data obrashcheniya: 01.09.2018))

38. Strategiya natsional'noi bezopasnosti Rossiiskoi Federatsii Utverzhdena Ukazom Prezidenta Rossiiskoi Federatsii ot 31 dekabrya 2015 g. № 683. URL: www.consultant.ru

39. Programma «Tsifrovaya ekonomika Rossiiskoi Federatsii», utverzhdena rasporyazheniem Pravitel'stva Rossiiskoi Federatsii ot 28 iyulya 2017 g. № 1632-r. URL: www.consultant.ru

40. Ukaz Prezidenta Rossiiskoi Federatsii ot 7 maya 2018 g. № 204 «O natsional'nykh tselyakh i strategicheskikh zadachakh razvitiya Rossiiskoi Federatsii na period do 2024 goda». URL: www.consultant.ru

41. Perechen' poruchenii ot 16 marta 2018 po realizatsii Poslaniya Prezidenta Rossiiskoi Federatsii Federal'nomu Sobraniyu Rossiiskoi Federatsii ot 1 marta 2018 g. URL: www.consultant.ru

42. Proekt zakona «O vnesenii izmenenii v Grazhdanskii kodeks Rossiiskoi Federatsii v chasti sovershenstvovaniya pravovogo regulirovaniya otnoshenii v oblasti robototekhniki». URL: //https://vk.com/ doc3420_439923163?hash=0a76aafed49c254276& dl=a16c15f566c9bef73f (data obrashcheniya: 26.08.2018).

43. Arkhipov V.V., Naumov V.B. Informatsionno-pravovye aspekty formirovaniya zakonodatel'stva o robototekhnike // Informatsionnoe pravo. 2017. № 1. S. 19-27.

44. Shustikov V. Kollizii «prava robotov». URL: http://sk.ru/news/b/press/archive/2017/05/25/kollizii-_1c20_prava-robotov_1d20_.aspx (data obrashcheniya: 25.08.2018).

45. Zakon ob umnykh robotakh. URL: http://elaw.klri.re.kr/eng_mobile/viewer.do?hseq=17399&type=part&key=18 (data obrashcheniya: 25.08.2018).

46. Zakon o dorozhnom dvizhenii ot 17 iyunya 2010 g. https://v1.juristaitab.ee /sites/ www.juristaitab.ee/files/elfinder/ru-seadused/%D0%97%D0%90%D0%9A%D0%9E%D0%9D%20%D0%9E%20%D0%94%D0%9E%D0%A0%D0%9E%D0%96% D0%9D%D0%9E%D0%9C%20%D0%94%D0%92%D0%98%D0%96%D0%95%D0%9D%D0%98%D0%98% 2002.07. 2018.pdf (data obrashcheniya: 25.08.2018).

47. Zakon o dorozhnom dvizhenii ot 16 iyunya 2017. URL: https://www.bgbl.de/xaver/bgbl/ start. xav?start = %2F%2F *%5B%40attr_id%3D%27bgbl117s1648.pdf%27%5D#_bgbl_%2F%2F*%5B%40attr_id%3D%27bgbl117s1648.pdf%27%5D_1533560692 (data obrashcheniya: 06.08.2018).

48. Cuthbert O. Saudi Arabia becomes first country to grant citizenship to a robot. URL: http://www.arabnews.com/node/1183166/saudi-arabia (data obrashcheniya: 26.08.2018).

51. Gray J. The nature and sources ofthe Law. New York. The Columbia University Press. 1909. 349 p.

53. Wein L. The Responsibility of Intelligent Artifacts: Toward an Automation Jurisprudence // Harvard Journal of Law & Technology. 1992. Vol. 6, Fall Issue. P. 103-154.

54. Asaro P.M. Robots and Responsibility from a Legal Perspective. 2007. URL: http://www.peterasaro. org/writing/ASAR0%20Legal%20Perspective.pdf (data obrashcheniya: 21.08.2018).

55. Dvorsky G. When will robots deserve human rights. URL: https://gizmodo.com/when-will-robots-deserve-human-rights-1794599063 (data obrashcheniya: 27.08.2018 g.).

57. Callahan M. Should robots have rights? URL: https://phys.org/news/2017-12-robots-rights.html (data obrashcheniya: 21.08.2018).

59. Siddique A. Robot rights? URL: https://www.citylawsociety.co.uk/single-post/2017/12/18/R0B0T-RIGHTS (data obrashcheniya: 21.08.2018).

60. Renstrom J. Should Robots Have Rights? URL: https://www.thedailybeast.com/should-robots-have-rights (data obrashcheniya: 21.08.2018).

61. Bryson J. Robots Should Be Slaves // http://www.cs.bath.ac.uk/~jjb/ftp/Bryson-Slaves-Book09.html (data obrashcheniya: 21.08.2018).

63. Azimov A. Runaround / I, Robot = Ya, robot. SPb. : Antologiya, 2018. 320 s.

64. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)). URL: http://www.europarl.europa.eu/sides/getDoc.do?type =TA&language=EN&reference=P8-TA-2017-0051#BKMD-12 (data obrashcheniya: 01.08.2018). Perevod na russkii yazyk dostupen: http://robopravo.ru/riezoliutsiia_ies (data obrashcheniya: 21.08.2018).

66. Bickerstaff R. Do we need robot law?. URL: https://www.britac.ac.uk/events/do-we-need-robot-law (data obrashcheniya: 15.08.2018).

67. Open letter to the European commission artificial intelligence and robotics. URL: http://www.robotics-openletter.eu/ (data obrashcheniya: 21.08.2018).

71. Rasporyazhenie Evraziiskogo mezhpravitel'stvennogo soveta ot 7 marta 2017 g. № 2 «O sferakh ekonomiki, obladayushchikh integratsionnym potentsialom v Evraziiskom ekonomicheskom soyuze, i merakh, napravlennykh na ego ispol'zovanie». URL: www.consultant.ru

72. Arkhipov S.I. Sub\"ekt prava: teoreticheskoe issledovanie. SPb. : Izd-vo R. Aslanova «Yuridicheskii tsentr Press». 2004. 469 s.

74. Hartzog W. Unfair and Deceptive Robots // 74 Md. L. Rev. 785 (2015). P. 785-829.

75. Bayern Sh. The Implications of Modern Business-Entity Law for the Regulation of Autonomous Systems // 19 Stanford Technology Law Review 93 (2015). P. 93-112.

77. Etzioni O. How to Regulate Artificial Intelligence. URL: https://www.nytimes.com/2017/09/01/opinion/artificial-intelligence-regulations-rules.html (data obrashcheniya: 31.08.2018).

78. Yastrebov O.A. Iskusstvennyi intellekt v pravovom prostranstve: kontseptual'nye i teoreticheskie podkhody // Pravosub\"ektnost': obshcheteoreticheskii, otraslevoi i mezhdunarodno-pravovoi analiz : sb. materialov k XII Ezhegodnym nauchnym chteniyam pamyati prof. S.N. Bratusya. M. : Statut, 2017. S. 271-283.

80. Benasaiyag M. Myshlenie za predelami mozga // Iskusstvennyi intellekt: perspektivy i ugrozy. Kur'er YuNESKO. Iyul'-sentyabr' 2018 g. URL: http://unesdoc.unesco.org/ images /0026/ 002652/265211r.pdf (data obrashcheniya: 31.08.2018).

81. Pakhman S. O zadachakh predstoyashchei reformy aktsionernogo zakonodatel'stva. Rech', napisannaya dlya proizneseniya v torzhestvennom sobranii Imperatorskogo Khar'kovskogo universiteta, 30 avgusta 1861 goda. Khar'kov : V Universitetskoi Tipografii, 1861. 159 s.

82. Kavelin K. Prava i obyazannosti po imushchestvam i obyazatel'stvam. V primenenii k russkomu zakonodatel'stvu. Opyt sistematicheskogo obozreniya. S.-Peterburg : Tipografiya M.M. Stasyulevicha, 1879. 143 s.

83. Azarevich D. A. Yuridicheskie litsa // Vremennik Demidovskogo yuridicheskogo litseya. Kniga dvadtsat' vos'maya. Yaroslavl' : V tipografiyakh: Gubernskogo Pravleniya, Zemskoi Upravy i g. Fal'ke v Yaroslavle, 1882. S. 1-84.

88. Kharari Yu.N. Sapiens. Kratkaya istoriya chelovechestva / Yuval' Noi Kharari; per. s angl. L. Summ. M. : Sindbad, 2017. 570 s.

94. https://www.unog.ch/80256EE600585943/(httpPages)/F027DAA4966EB9C7C12580CD0039D7B5 (data obrashcheniya: 05.09.2018).

96. Rassmotrenie razlichnykh aspektov novykh tekhnologii v sfere sozdaniya smertonosnykh avtonomnykh sistem vooruzhenii v kontekste tselei i zadach Konventsii (Predstavleno Rossiiskoi Federatsiei). Zheneva, 13-17 noyabrya 2017 g. URL: https://www.unog.ch /80256EDD006B8954/ (httpAssets)/ E9178CB855E3D8EDC12581D70065EF31 /$file/ 2017_GGEonLAWS_WP_Russian.pdf (data obrashcheniya: 01.08.2018).

97. Doklad Nezavisimogo eksperta po voprosu ob osushchestvlenii pozhilymi lyud'mi vsekh prav cheloveka dlya Soveta po pravam cheloveka pri OON // A/HRC/36/48. Sovet po pravam cheloveka. Tridtsat' shestaya sessiya. 11-29 sentyabrya 2017 g. URL: http://digitallibrary.un.org/record/1304243/files/A_HRC_36_48-RU.pdf (data obrashcheniya: 01.09.2018).

98. Federal'nyi zakon ot 20 maya 2002 g. № 54-FZ (red. ot 29.03.2010) «O vremennom zaprete na klonirovanie cheloveka». URL: www.consultant.ru

99. Shershenevich G.F. Obshchaya teoriya prava. Lektsii professora Moskovskogo universiteta G.F. Shershenevicha, chitannye v Moskovskom Kommercheskom institute v 1909/10 akadem. godu. Redaktirovannoe avtorom izdanie Stud. komissii obshch-va vzaimopom. S.K.I. Bg, 1910. 320 s.

100. Pereverzev S., Podolin A. Sotsial'naya matematika = pravo. Novyi yazyk yuridicheskoi nauki. URL: http://speranskylabs.ru/ (data obrashcheniya: 01.09.2018).

101. Ivanov A. A. O glubine mashinizatsii prava // Zakon. 2018. № 5. S. 35-41.

102. Pasquale F. The Black Box Society: The Secret Algorithms That Control Money and Information // Harvard University Press. 2015. 311 p.

103. Reglament Evropeiskogo parlamenta i Soveta Evropeiskogo Soyuza № 2016/679 ot 27 aprelya 2016 g. «O zashchite fizicheskikh lits pri obrabotke personal'nykh dannykh i o svobodnom obrashchenii takikh dannykh, a takzhe ob otmene Direktivy 95/46/ES».

106. Guidelines on Regulating Robotics. 2014. URL: http://www.robolaw.eu/ RoboLaw_files/ documents/robolaw_d6.2_ guidelinesregulatingrobot-ics_20140922.pdf (data obrashcheniya: 15.08.2018).