Известия Саратовского университета. Новая серия.

Серия: Экономика. Управление. Право

ISSN 1994-2540 (Print)
ISSN 2542-1956 (Online)

Для цитирования:

Амелин Р. В., Бессонов Л. В., Комкова Г. Н., Чаннов С. Е. Концептуальный подход к классификации и сертификации роботов и сложных автоматизированных информационных систем // Известия Саратовского университета. Новая серия. Серия: Экономика. Управление. Право. 2022. Т. 22, вып. 4. С. 413-423. DOI: 10.18500/1994-2540-2022-22-4-413-423, EDN: IIUKSC

Статья опубликована на условиях лицензии Creative Commons Attribution 4.0 International (CC-BY 4.0).
Полный текст в формате PDF(Ru):
Иконка PDF ekonomika_2022_4-413-423.pdf
(загрузок: 0)
Язык публикации: 
русский
Рубрика: 
Право
Тип статьи: 
Научная статья
УДК: 
349
DOI: 
10.18500/1994-2540-2022-22-4-413-423
EDN: 
IIUKSC

Концептуальный подход к классификации и сертификации роботов и сложных автоматизированных информационных систем

Авторы: 
Амелин Роман Владимирович, Саратовский национальный исследовательский государственный университет имени Н. Г. Чернышевского
Бессонов Леонид Валентинович, Саратовский национальный исследовательский государственный университет имени Н. Г. Чернышевского
Комкова Галина Николаевна, Саратовский национальный исследовательский государственный университет имени Н. Г. Чернышевского
Чаннов Сергей Евгеньевич, Поволжский институт управления им. П. А. Столыпина – филиал РАНХиГС при Президенте РФ
Аннотация: 

Введение. С развитием и распространением роботов, систем искусственного интеллекта и сложных автоматизированных информационных систем связана проблема причинения вреда их решениями и действиями, а также проблема юридической ответственности за этот вред. Теоретический анализ. Одной из основных функций юридической ответственности является общая и частная превенция. В применении к роботам она требует их перепрограммирования, переобучения или ликвидации. Таким образом, с проблемой юридической ответственности автономных и временами непредсказуемых программно-технических механизмов напрямую связан экзистенциальный вопрос о возможности, формах и условиях их существования. Системная правовая конструкция, направленная на обеспечение безопасности и предсказуемости при создании и эксплуатации роботов может быть построена на основе классифицирующего стандарта, причем с каждым классом будут связаны определенные формы и модели ответственности. Эмпирический анализ. Основой правовой классификации роботов и сложных автоматизированных информационных систем будут являться угрозы, связанные с причинением вреда в результате их самопроизвольных действий и решений, соотнесенные с формами юридической ответственности. Могут быть выделены угрозы: причинения смерти человека; неправомерного изменения правового статуса субъекта; причинения материального вреда; нарушения личных неимущественных прав лица; информации или иному имуществу владельца (пользователя), не связанная с причинением вреда третьим лицам; угроза противоправного поведения роботов. Результаты. Предложена классификация роботов и сложных автоматизированных систем, а также подходы к юридической ответственности и обеспечению безопасности для каждого класса, указаны направления перспективной разработки правовых и технических стандартов, необходимых для обеспечения данной классификации и сертификации.

Ключевые слова: 
роботы
автоматизированные информационные системы
самопроизвольное поведение
юридическая ответственность
угроза причинения вреда
стандарты
классификация
Список источников: 
  1. Yeung K. Responsibility and AI, Council of Europe Study DGI, 2019. URL: https://rm.coe.int/responsability-andai-en/168097d9c5 (дата обращения: 15.08.2022).
  2. Незнамов А. В., Наумов В. Б. Стратегия регулирования робототехники и киберфизических систем // Закон. 2018. № 2. С. 69–89.
  3. Михалева Е. С., Шубина Е. А. Проблемы и перспективы правового регулирования робототехники // Актуальные проблемы российского права. 2019. № 12. С. 26–35. https://doi.org/10.17803/1994-1471.2019.109.12.026-035
  4. Russell S. J., Norvig P. Artifi cial Intelligence: A Modern Approach. Malaysia : Pearson Education Limited, 2016. 1152 p.
  5. Scherer M. U. Regulating Artifi cial Intelligence Systems: Risks Challenges Competencies and Strategies // Harvard Journal of Law & Technology. 2016. Vol. 29, № 2. P. 354–400. http://dx.doi.org/10.2139/ssrn.2609777
  6. Бегишев И. Р. Пределы уголовно-правового регулирования робототехники // Вестник СанктПетербургского университета. Право. 2021. № 3. С. 529–530. https://doi.org/10.21638/spbu14.2021.303
  7. Шубинский И. Б. Функциональная надежность информационных систем. Методы анализа. М. : Журнал «Надежность», 2012. 296 с.
  8. Mitchell C. Bad software sent postal workers to jail, because no one wanted to admit it could be wrong // The Verge, 2021. URL: https://www.theverge.com/2021/4/23/22399721/uk-post-office-software-bug-criminalconvictions-overturned (дата обращения: 15.08.2022).
  9. Алиева Ф. Студентов СПбГУ отчислили за «отвод глаз от монитора» во время онлайл-экзамена. «Списывание» зафиксировала программа // Сноб, 2021. URL: https://snob.ru/news/studentov-spbgu-otchisliliza-otvod-glaz-ot-monitora-vo-vremya-onlajl-ekzamenaspisyvanie-zafiksirovala-programma/ (дата обращения: 15.08.2022).
  10. Проблемы и вызовы цифрового общества: тенденции развития правового регулирования цифровых трансформаций : в 2 т. / под ред. Н. Н. Ковалёвой. Т. 2. Саратов : Изд-во Саратовской гос. юрид. акад., 2020. 202 с.
  11. European Commission, Directorate-General for Justice and Consumers, Liability for artifi cial intelligence and other emerging digital technologies, Publications Offi ce, 2019. https://data.europa.eu/doi/10.2838/573689
  12. Чиркин В. Е. Юридическое лицо публичного права. М. : Норма, 2007. 352 с.
  13. Грачева Ю. В., Арямов А. А. Роботизация и искусственный интеллект: уголовно-правовые риски в сфере общественной безопасности // Актуальные проблемы российского права. 2020. Т. 15, № 6. С. 169–178. https://doi.org/10.17803/1994-1471.2020.115.6.169-178
  14. Карлаш Д. С. Право роботов: метафизические и социально-экономические аспекты // Предпринимательское право. Приложение «Право и Бизнес». 2018. № 4. С. 9–15.
  15. Пономарева Е. В. Субъекты и квазисубъекты права: теоретико-правовые проблемы разграничения : дис. … канд. юрид. наук. Екатеринбург, 2019. 208 с.
  16. Регулирование робототехники: введение в «робоправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта / под ред. А. В. Незнамова. М. : Инфотропик Медиа, 2018. 232 с.
  17. Головизнин А. В. Деликтная ответственность в случаях применения роботов // Вестник Уральского юридического института МВД России. 2022. № 2. С. 82–88.
  18. Луценко С. Имплементация института искусственного интеллекта в российское законодательство // Цифровая экономика, 2002. URL: http://digital-economy.ru/images/easyblog_articles/802/impl24324.pdf (дата обращения: 15.08.2022).
  19. Дэгерг М. Ответственность без вины и социализация рисков во французском праве // Lex Russica. 2016. № 1. С. 51–58.
  20. P8_TA(2017)0051 Civil Law Rules on Robotics, European Parliament (2014–2019). URL: https://www.eu-roparl.europa.eu/doceo/document/TA-8-2017-0051_EN.pdf (дата обращения: 15.08.2022).
  21. Алексеев С. С. Проблемы теории права: курс лекций : в 2 т. Т. 1. М. : Юридическая литература, 1982. 359 с.
  22. Васильев А. А., Васильева О. В., Ибрагимов Ж. И. «Закон Гришина» и право ЕС о робототехнике и искусственном интеллекте: сравнительный анализ // Проблемы правовой и технической защиты информации. 2019. № 7. С. 64–70.
  23. Авдашева С. В., Крючкова П. В. Система технического регулирования в Российской Федерации: формирование, возможное и ожидаемое воздействие на конкуренцию и конкурентоспособность. М. : Гос. ун-т «ВШЭ», 2009. 68 с. (Препринт / НИУ ВШЭ WP1/2009/04) (Серия WP1. Институциональные проблемы российской экономики).
  24. О техническом регулировании : федер. закон от 27.12.2002 № 184-ФЗ (ред. от 02.07.2021) // Собр. законодательства Рос. Федерации. 2002. № 52 (ч. 1), ст. 5140.
  25. Сухостат В. В., Васильева И. Н. Основы информационной безопасности : учеб. пособие. СПб. : Изд-во СПбГЭУ, 2019. 104 с.
  26. M.A. Mortenson Company, Inc. (Petitioner), v. Timberline software corporation and Softworks Data Systems, Inc., Respondents // FindLaw. URL: https://caselaw.findlaw.com/wa-supreme-court/1409490.html (дата обращения: 15.08.2022).
  27. Бегишев И. Р. Размышления о проекте Федерального закона «Об обороте роботов, их составных частей (модулей)» // Право и цифровая экономика. 2021. № 2. С. 379–390.
Поступила в редакцию: 
29.08.2022
Принята к публикации: 
16.09.2022