ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТКАК СОЦИАЛЬНЫЙ РЕГУЛЯТОР: ЗА И ПРОТИВ

Главная

Статья в Elpub

РУС ENG

Азиатско-Тихоокеанский регион: экономика, политика, право. 2018; : 55-68

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТКАК СОЦИАЛЬНЫЙ РЕГУЛЯТОР: ЗА И ПРОТИВ

Дремлюга Р. И., Кошель А. С.

https://doi.org/10.24866/1813-3274/2018-3/55-68

Аннотация

Цифровизация влияет не только на общественные отношения, но и грозит замещением права, как регулятора отношений, на новые формы регулирования. Это означает, что в ближайшем будущем под влиянием цифровизации программный код (алгоритмы) может выполнять регуляторную функцию. Анализ процессов цифровизации позволяет прогнозировать изменение механизма правообразования и композиции существующей модели социального регулирования, коррекцию границ известных социальных регуляторов и образование в ней ниши, которую займёт программный код. По факту регулирующий алгоритм - это программный код, автоматически контролирующий или влияющий на поведение людей. Новые методы технологий искусственного интеллекта (например, глубокое машинное обучение) позволяют выявить неочевидные зависимости, недоступные для обнаружения человеком или обычными техническими методами. Интеллектуальные системы будут и должны внедряться в регулирование общественных отношений. Это эффективней как с экономической, так и с точки зрения достижения желаемого результата. Поведенческие нормы, обеспечиваемые с помощью автоматизированной системы, могут быть простым, фиксированным (но перепрограммируемым) стандартом поведения, который вносится оператором системы. На уровне сбора и мониторинга информации система может работать как простой регистратор нарушений правил поведения. Такие компьютерные программы используют технологию искусственного интеллекта и посредством анализа истории предыдущих ситуаций и сравнения полученных взаимосвязей обучаются для выявления нарушений, совершаемых в настоящий момент. Несмотря на очевидные преимущества использования компьютерных программ для регулирования поведения общества, некоторые их свойства и побочные эффекты использования систем порождают вопросы в сфере права. Во-первых, подобные системы могут с большой вероятностью из общедоступных фактов о человеке выявлять характеристики, не являющиеся общедоступными и даже личными. Во-вторых, так как системы зачастую обучаются на решениях или информации, созданных людьми, они могут унаследовать человеческие заблуждения. В-третьих, серьёзным вызовом является вопрос кибербезопасности подобных систем.

Список литературы

1. Об утверждении программы «Цифровая экономика Российской Федерации» : распоряжение Правительства Российской Федерации от 28 июля 2017 г. № 1632-р // Собрание законодательства Российской Федерации. - 2017. - 7 авг., № 32. - Ст. 5138.

2. Перечни законопроектов и проектов постановлений [Электронный ресурс] // Система обеспечения законодательной деятельности. - Режим доступа: http://sozd.duma.gov.ru/.

3. Антонова, О. А. Законодательная инициатива граждан как форма участия в управлении делами общества и государства // Вестник Прикамского социального института. - 2018. - № 2 (80). - С. 6-13.

4. Дворников, Д. В. Концепция электронного опроса избирателей при сборе подписей в поддержку выдвижения кандидатов в депутаты (на выборные должности) (sms-выдвижение) / Д. В. Дворников, В. В. Красинский, А. С. Пучнин // Вестник Тамбовского университета. Сер. : Гуманитарные науки. - 2010. - № 9 (89). - С. 250-255.

5. Дик, Д. И. Оценка уровня безопасности информационной системы на основе анализа количества ошибок в программном коде / Д. И. Дик, В. М. Солодовников // Вестник Курганского государственного университета. Сер.: Технические науки. - 2015. - № 3 (37). - С. 32-35.

6. Жожина, М. О демократизации законодательного процесса в Российской Федерации / М. Жожина, Н. В. Михайлова // Этносоциум и межнациональная культура. - 2017. - № 3 (105). - С. 9-14.

7. Клаус, Ш. Технологии Четвертой промышленной революции / Ш. Клаус. - М. : ЭКСМО, 2018. - 320 с.

8. Латухина, К. Владимир Путин: Внедрить цифровые технологии во все сферы жизни [Электронный ресурс] // Российская газета. - 2017. - 4 июня. - Режим доступа: https://rg.ru/2017/06/04/reg-szfo/vladimir-putin-vnedrit-cifrovye-tehnologii-vovse-sfery-zhizni.html.

9. Радченко, И. В. Вытеснит ли технология «блокчейн» нотариуса // Нотариальный вестникъ. - 2017. - № 8. - С. 42-44.

10. Унижаев, Н. В. Проблемы использования технологии блокчейн в цифровой экономике // Альманах мировой науки. - 2018. - № 3 (23). - С. 211-215.

11. Хабриева, Т. Я. Право перед вызовами цифровой реальности // Журнал российского права. - 2018. - № 9 (261). - С. 5-16.

12. Coglianese, C. The Internet and citizen participation in rulemaking // A Journal of law and policy. - 2005. - Vol. 1, iss. 1. - P. 33-57.

13. Deshmukh, S. S. Prediction of crime hot spots using spatiotemporal ordinary kriging / S. S. Deshmukh, B. Annappa // Studies in Computational Intelligence. - 2019. - Vol. 771. - P. 683-691.

14. Big Data. Bigger Dilemmas : A critical review / H. Ekbia, M. Mattioli, I. Kouper [et al.] // Journal of the Association for Information Science and Technology. - 2015. - Vol. 68. - P. 1523-1545.

15. Face-reading AI will be able to detect your politics and IQ, professor says [Электронный ресурс] // The Guardian. - 2017. - 12 September. - Режим доступа: https://www.theguardian.com/technology/2017/sep/12/artificial-intelligence-facerecognition-michal-kosinski.

16. Nevett, J. The real minority report: Police trial AI to predict and prevent crimes before they happen [Электронный ресурс] // Daily Star. - 2018. - January 29. - Режим доступа: https://www.dailystar.co.uk/news/world-news/677796/artificial-intelligencejapan-kanagawa-police-predict-minority-report-2020-olympics.

17. Miller, A. What do we worry about when we worry about price discrimination? The law and ethics of using personal information for pricing // Journal of Technology Law and Policy. - 2014. - Vol. 19. - P. 41-95.

18. Nakamoto, S. Bitcoin: A peer-to-peer electronic cash system [Электронный ресурс]. - Режим доступа: https://bitcoin.org/bitcoin.pdf.

19. New AI can guess whether you're gay or straight from a photograph [Электронный ресурс]. - Режим доступа: https://www.theguardian.com/technology/2017/sep /07/new-artificial-intelligence-can-tell-whether-youre-gay-or-straight-from-a-photograph.

20. O’Neil, C. Weapons of math destruction: how big data increases inequality and threatens democracy / C. O’Neil. - New York : Allen Lane, 2016. - 259 p.

21. O’Reilly, T. Open data and algorithmic regulation // Beyond transparency: open data and the future of civic innovation / ed. By B. Goldstein, D. Dyson. - San Francisco : Code for America Press, 2013. - P. 289-300.

22. Pagallo, U. Algo-rhythms and the beat of the legal drum // Philosophy and Technology. - 2018. - Vol. 3, iss. 14. - P. 507-524.

23. Parkin, S. Killer Robots: The soldiers that never sleep [Электронный ресурс] // BBC. - 2015. - July 16. - Режим доступа: http://www.bbc.com/future/story/20150715killer-robots-the-soldiers-that-never-sleep.

24. Super aEgis II [Электронный ресурс]. - Режим доступа: http://www.doda am.com/eng/sub2/menu2_1_4.php.

25. Solaiman, S. M. Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy // Artificial Intelligence and Law. - 2017. - Vol. 25, iss. 2. - P. 155-179.

26. Bryson, J. J. Of, for, and by the people: the legal lacuna of synthetic persons / J. J. Bryson, M. E. Diamantis, T. D. Grant // Artificial Intelligence and Law. - 2017. - Vol. 25, iss. 3. - P. 273-291.

27. Yeung, K. Algorithmic regulation: A critical interrogation // Regulation and Governance. - 2018. - Vol. 12, iss. 4. - P. 505-523.

28. Yi Shu Ng. China is using AI to predict who will commit crime next. July 24, 2017 [Электронный ресурс]. - Режим доступа: https://mashable.com/2017/07/24/ china-ai-crime-minority-report/#QKYhs4z.qqqR.

29. Şafak, Y. Turkey starts building automatic shooting gun towers at Syrian border. May 30, 2016 [Электронный ресурс]. - Режим доступа: http://www.yenisafak.com/en/news/turkey-starts-building-automatic-shooting-guntowers-at-syrian-border-2473487.

30. Zone of ethics. Propublica. 2016 [Электронный ресурс]. - Режим доступа: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing.

Pacific Rim: Economics, Politics, Law. 2018; : 55-68

ARTIFICIAL INTELLIGENCE AS A SOCIAL REGULATOR: PROS AND CONS

Dremliuga R. I., Koshel A. S.

https://doi.org/10.24866/1813-3274/2018-3/55-68

Abstract

Digitalization affects not only public relations; it also threatens to replace law by new forms of regulation. It means that in the near future, under the influence of digitalization, the program code (algorithms) can perform a regulatory function. The analysis of digitalization processes allows predicting changes in the mechanism of law formation and composition. It would be reflected in the change of the existing model of social regulation, the correction of the boundaries of well-known social regulators and the formation of a niche in it that the program code will occupy. In fact, the regulatory algorithm is a program code that automatically controls or influences the behavior of people. New methods of artificial intelligence technologies (for example, deep machine learning) make it possible to identify non-obvious dependencies inaccessible to humans or conventional technical methods. Intellectual systems will and should be implemented in the regulation of social relations. This is more effective both economically and in terms of achieving the desired result. The behavioral norms controlled by an automated system can be a simple, fixed (but reprogrammable) standard of behavior that is entered by the system operator. At the level of information collection and monitoring, the system can operate as a simple recorder of violations of the rules of conduct. Such computer programs use artificial intelligence technology and by analyzing the history of previous situations and comparing the relationships obtained, they are trained to identify violations committed at the moment. Despite the obvious advantages of using computer programs to regulate the behavior of society, some of their properties and side effects of using systems raise questions in the field of law. Firstly, such systems are likely to reveal characteristics that are not publicly available or even personal from the publicly available facts about a person. Secondly, since systems are often trained on solutions or information created by people, they can inherit human delusions. Third, the cybersecurity of such systems is a serious challenge.

References

1. Ob utverzhdenii programmy «Tsifrovaya ekonomika Rossiiskoi Federatsii» : rasporyazhenie Pravitel'stva Rossiiskoi Federatsii ot 28 iyulya 2017 g. № 1632-r // Sobranie zakonodatel'stva Rossiiskoi Federatsii. - 2017. - 7 avg., № 32. - St. 5138.

2. Perechni zakonoproektov i proektov postanovlenii [Elektronnyi resurs] // Sistema obespecheniya zakonodatel'noi deyatel'nosti. - Rezhim dostupa: http://sozd.duma.gov.ru/.

3. Antonova, O. A. Zakonodatel'naya initsiativa grazhdan kak forma uchastiya v upravlenii delami obshchestva i gosudarstva // Vestnik Prikamskogo sotsial'nogo instituta. - 2018. - № 2 (80). - S. 6-13.

4. Dvornikov, D. V. Kontseptsiya elektronnogo oprosa izbiratelei pri sbore podpisei v podderzhku vydvizheniya kandidatov v deputaty (na vybornye dolzhnosti) (sms-vydvizhenie) / D. V. Dvornikov, V. V. Krasinskii, A. S. Puchnin // Vestnik Tambovskogo universiteta. Ser. : Gumanitarnye nauki. - 2010. - № 9 (89). - S. 250-255.

5. Dik, D. I. Otsenka urovnya bezopasnosti informatsionnoi sistemy na osnove analiza kolichestva oshibok v programmnom kode / D. I. Dik, V. M. Solodovnikov // Vestnik Kurganskogo gosudarstvennogo universiteta. Ser.: Tekhnicheskie nauki. - 2015. - № 3 (37). - S. 32-35.

6. Zhozhina, M. O demokratizatsii zakonodatel'nogo protsessa v Rossiiskoi Federatsii / M. Zhozhina, N. V. Mikhailova // Etnosotsium i mezhnatsional'naya kul'tura. - 2017. - № 3 (105). - S. 9-14.

7. Klaus, Sh. Tekhnologii Chetvertoi promyshlennoi revolyutsii / Sh. Klaus. - M. : EKSMO, 2018. - 320 s.

8. Latukhina, K. Vladimir Putin: Vnedrit' tsifrovye tekhnologii vo vse sfery zhizni [Elektronnyi resurs] // Rossiiskaya gazeta. - 2017. - 4 iyunya. - Rezhim dostupa: https://rg.ru/2017/06/04/reg-szfo/vladimir-putin-vnedrit-cifrovye-tehnologii-vovse-sfery-zhizni.html.

9. Radchenko, I. V. Vytesnit li tekhnologiya «blokchein» notariusa // Notarial'nyi vestnik\". - 2017. - № 8. - S. 42-44.

10. Unizhaev, N. V. Problemy ispol'zovaniya tekhnologii blokchein v tsifrovoi ekonomike // Al'manakh mirovoi nauki. - 2018. - № 3 (23). - S. 211-215.

11. Khabrieva, T. Ya. Pravo pered vyzovami tsifrovoi real'nosti // Zhurnal rossiiskogo prava. - 2018. - № 9 (261). - S. 5-16.

12. Coglianese, C. The Internet and citizen participation in rulemaking // A Journal of law and policy. - 2005. - Vol. 1, iss. 1. - P. 33-57.

13. Deshmukh, S. S. Prediction of crime hot spots using spatiotemporal ordinary kriging / S. S. Deshmukh, B. Annappa // Studies in Computational Intelligence. - 2019. - Vol. 771. - P. 683-691.

14. Big Data. Bigger Dilemmas : A critical review / H. Ekbia, M. Mattioli, I. Kouper [et al.] // Journal of the Association for Information Science and Technology. - 2015. - Vol. 68. - P. 1523-1545.

15. Face-reading AI will be able to detect your politics and IQ, professor says [Elektronnyi resurs] // The Guardian. - 2017. - 12 September. - Rezhim dostupa: https://www.theguardian.com/technology/2017/sep/12/artificial-intelligence-facerecognition-michal-kosinski.

16. Nevett, J. The real minority report: Police trial AI to predict and prevent crimes before they happen [Elektronnyi resurs] // Daily Star. - 2018. - January 29. - Rezhim dostupa: https://www.dailystar.co.uk/news/world-news/677796/artificial-intelligencejapan-kanagawa-police-predict-minority-report-2020-olympics.

18. Nakamoto, S. Bitcoin: A peer-to-peer electronic cash system [Elektronnyi resurs]. - Rezhim dostupa: https://bitcoin.org/bitcoin.pdf.

19. New AI can guess whether you're gay or straight from a photograph [Elektronnyi resurs]. - Rezhim dostupa: https://www.theguardian.com/technology/2017/sep /07/new-artificial-intelligence-can-tell-whether-youre-gay-or-straight-from-a-photograph.

20. O’Neil, C. Weapons of math destruction: how big data increases inequality and threatens democracy / C. O’Neil. - New York : Allen Lane, 2016. - 259 p.

22. Pagallo, U. Algo-rhythms and the beat of the legal drum // Philosophy and Technology. - 2018. - Vol. 3, iss. 14. - P. 507-524.

23. Parkin, S. Killer Robots: The soldiers that never sleep [Elektronnyi resurs] // BBC. - 2015. - July 16. - Rezhim dostupa: http://www.bbc.com/future/story/20150715killer-robots-the-soldiers-that-never-sleep.

24. Super aEgis II [Elektronnyi resurs]. - Rezhim dostupa: http://www.doda am.com/eng/sub2/menu2_1_4.php.

25. Solaiman, S. M. Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy // Artificial Intelligence and Law. - 2017. - Vol. 25, iss. 2. - P. 155-179.

27. Yeung, K. Algorithmic regulation: A critical interrogation // Regulation and Governance. - 2018. - Vol. 12, iss. 4. - P. 505-523.

28. Yi Shu Ng. China is using AI to predict who will commit crime next. July 24, 2017 [Elektronnyi resurs]. - Rezhim dostupa: https://mashable.com/2017/07/24/ china-ai-crime-minority-report/#QKYhs4z.qqqR.

29. Şafak, Y. Turkey starts building automatic shooting gun towers at Syrian border. May 30, 2016 [Elektronnyi resurs]. - Rezhim dostupa: http://www.yenisafak.com/en/news/turkey-starts-building-automatic-shooting-guntowers-at-syrian-border-2473487.

30. Zone of ethics. Propublica. 2016 [Elektronnyi resurs]. - Rezhim dostupa: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing.

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТКАК СОЦИАЛЬНЫЙ РЕГУЛЯТОР: ЗА И ПРОТИВ

Аннотация

ARTIFICIAL INTELLIGENCE AS A SOCIAL REGULATOR: PROS AND CONS

Abstract

События