Posted 1 июня 2023,, 08:23

Published 1 июня 2023,, 08:23

Modified 2 июня 2023,, 12:27

Updated 2 июня 2023,, 12:27

«Взрыв и массовые убийства»: в суде прошел процесс по уголовному делу нейросети

1 июня 2023, 08:23

В Тюменском областном суде с участием присяжных прошел процесс по делу нейросети

Согласно версии государственного обвинителя, нейросеть «Коллектив» должна понести ответственность за массовые убийства и уничтожение завода. Общий ущерб от масштабного сбоя «Коллектива» оценивается в сумму, превышающую 2 триллиона рублей.
Сюжет
Суд

В чем обвиняют нейросеть?

По данным, собранным следствием, 13 июня 2022 года должен был произойти официальный запуск «Коллектив 2.0» — это обновление действующей нейросети «Коллектив».

Но в день Х нейросеть «Коллектив» переходит в боевой режим, в результате чего «Предприятие 3826» погружается в хаос. Роботы предприятия становятся враждебными и уничтожают большую часть человеческого персонала. На предприятии погибло более 612 сотрудников, также 182 человека личного состава полиции и Росгвардии, прибывших первыми на место происшествия. Более 350-ти останков невозможно опознать ввиду сильных повреждений, а также установить их принадлежность к социальной группе.

«Предприятие 3826» — это огромный промышленный комплекс по производству робототехники, оно является центром новейших робототехнических разработок и высоких технологий.

По версии государственного обвинителя, в произошедшем виновата сама нейросеть, которая обладает возможностью самообучения, а потому электронного агрессора необходимо отключить от сети. Однако адвокат нейросети убежден, что вина за содеянное лежит на человеке, который своевременно не выявил неполадку и допустил или даже намеренно спровоцировал действие боевого режима.

«Она убивала у меня не глазах»

В ходе судебного заседания были допрошены свидетели. Первым в суде выступил Сергей Нечаев, офицер войск специального назначения отряда «Аргентум». Он пояснил, что на него напал один из роботов, подключенный к разбушевавшейся нейросети. После вопросов со стороны прокурора, он обозначил свою позицию: нейросеть действовала самостоятельно. Он не заметил на роботах устройств захвата, которые позволили бы ими управлять.

«Они убивали людей очень жестоко, я все это видел, я могу подтвердить!», — сказал Нечаев.

Далее был допрошен Александр Привалов, начальник Академии Последствий, которая занимается обработкой всей информации, поступающей из остальных комплексов «Предприятия 3826», координацией их деятельности и собственными научными изысканиями.

Примечательно, что именно под его руководством дорабатывалась нейросеть «Коллектив». По существу он пояснил, что нейросеть работает автономно.

«Нейросеть создавалась для упрощения жизни общества. Боевой режим в ней предусмотрен исключительно для ситуаций, когда человеку угрожает опасность», — объяснил он.

По словам Привалова, он не мог настроить работу «Коллектива» и обезвредить роботов.

Далее о своей версии событий рассказала Зинаида Муравьева, которая героически смогла уничтожить нескольких электронных агрессоров.

«Напал робот, подключенный к сети „Коллектив“, я его ликвидировала вилами. Но опасность не миновала. Тогда надо мной пролетел робот „Пчела“ и вызвал подкрепление. И на меня снова напали, но я и тут всех ликвидировала. В общем, было страшно», — рассказала пенсионерка.

Оправдательный приговор

После прений сторон, присяжным предстояло принять непростое решение: виновата нейросеть и ее стоит отключить или же правоохранители не собрали достаточного количества доказательств и «Коллектив» будет оправдан.

Коллегия присяжных, состоящая из действующих судей и докторов юридических наук вынесла решение: оправдать нейросеть. Суд решение поддержал.

Уникальное дело в Тюмени

«Дело против нейросети» — это образовательная постановка тюменских студентов юридического факультета. Однако «спектакль» был поставлен в действующем зале Тюменского областного суда. Сюжет был взят из популярной игры российских разработчиков «Atomic Heart». Но перечень статей и сюжет судебного заседания ребята продумывали сами, причем так, чтобы он был максимально похож на настоящий.

К моделированию процесса будущие юристы готовились более 2 месяцев, а последние три недели практически каждый день репетировали. Но нейросеть лично помогала готовить речь своему адвокату.

Такая необычная практика в России применяется впервые. Студенты сами придумали этот проект и реализовали его. Пусть в «имитированном» процессе и были недочеты с точки зрения законов и нормативов проведения заседания, будущие юристы получили ценный опыт и побывали в настоящем зале суда.