«Виновата система» — эта фраза, по мнению депутата Госсовета РТ Игоря Бикеева, становится современным аналогом нацистского оправдания «я лишь выполнял приказ». В авторской колонке для KazanFirst эксперт утверждает, что передача решений искусственному интеллекту создаёт «зону структурной безответственности», где производитель кивает на пользователя, пользователь — на алгоритм, а спросить не с кого. Бикеев предложил законодательно зафиксировать «красные линии»: сферы, где решение обязано оставаться человеческим, — от правосудия до управления оружием массового поражения.
В пресс-центре ТАСС в Москве на пресс-конференции был представлен итоговый доклад «Дух Победы и мировая гуманитарная повестка. Нюрнбергский императив в эпоху антропотехнического перехода: гуманитарный прагматизм как программа мирового развития», приуроченный к предстоящему 80-летию ООН и 80-летию принятия Всеобщей декларации прав человека.
Его презентовали и комментировали советник президента Российской Федерации, председатель Совета при президенте РФ по развитию гражданского общества и правам человека Валерий Фадеев, генеральный директор ICS Consulting Алексей Пастухов, член Научно-экспертного совета по проблемам управления Института экономики РАН Николай Григорьев, депутат Государственной Думы Николай Николаев и ваш покорный слуга.
В числе прочих вопросов эксперты провели своего рода параллель между выполнением приказа, которым на Нюрнбергском трибунале нацистские преступники пытались оправдать свои злодеяния (дескать, «это не мы, это Гитлер и Гиммлер виноваты, мы лишь выполняли свои служебные обязанности»), и современным стремлением людей возложить груз принятия решений на искусственный интеллект («так решил алгоритм»). И в том и в другом случае налицо уловка, лукавство для того, чтобы избежать собственной персональной ответственности.
Я отвечал за правовую сторону содержания доклада и озвучил следующие тезисы. В чём же, собственно, юридическая проблема?
Право не может работать без субъекта – того, кто совершает поступок, должен и способен нести за него ответственность. У вычислительной системы такого носителя нет. Ей нечем отвечать. Она не может раскаяться, её нельзя наказать, с неё нельзя взыскать возмещение вреда.
И вот что происходит, когда решение передаётся машине. Производитель кивает на пользователя: «Мы лишь поставили инструмент». Пользователь кивает на алгоритм: «Так показала система». А алгоритм лицом не является. Возникает то, что в этике техники называют разрывом ответственности, а я называю зоной структурной безответственности. И эта зона расширяется ровно с той скоростью, с какой автономные системы заходят в медицину, финансы, правосудие, безопасность, управление.
Право знает, как закрывать такие зоны. Оно занималось этим веками. И первое, что оно должно сделать, – отказаться от ложного решения, которое сегодня кажется удобным. Я имею в виду идею «электронного лица», правосубъектности искусственного интеллекта – идею наделить алгоритм правами и обязанностями, чтобы было «с кого спросить».
ИИ-система не является лицом, не обладает волей, дееспособностью и способностью нести юридическую ответственность. Она использует правила и выполняет задания разработчика или пользователя.
На мой взгляд, правосубъектность искусственного интеллекта – юридически опасная конструкция. Она не закрывает разрыв ответственности – она его узаконивает. Наделить алгоритм правосубъектностью – значит, создать удобную ширму, за которой человек и корпорация уходят от ответа. «Виновата система» – и взять с неё нечего.
Наш принцип предельно ясен: от любого последствия должен оставаться восстановимый путь к конкретному человеку или организации. Всегда. Алгоритм может считать, ранжировать, подсказывать. Но он не может быть крайним, нести ответственность.
И здесь – самый важный тезис. Обычно право реагирует на вред после того, как он наступил: случилась авария, причинён ущерб – начинаем разбираться. С автономными системами эта логика проваливается. Когда вред уже наступил, спрашивать часто не с кого – субъект растворился в цепочке делегирований.
Поэтому предлагается сместить точку фиксации. Красная линия пересекается в момент передачи решения машине, а не после наступления вреда. Юридически значимое событие – это сам акт делегирования: когда человек или организация решают вывести из-под человеческого контроля решение, которое выводить нельзя.
Отсюда – красные линии делегирования. Есть сферы, в которых решение обязано оставаться человеческим независимо от качества и точности систем: жизнь и природа человека; центральные вопросы правосудия и законотворчества; смыслообразующее культурное производство; воспитание развивающейся личности. И абсолютная красная линия, не знающая исключений, – допущение автономных систем к управлению оружием массового поражения и иными средствами необратимого ущерба.
То, что говорится, – не призыв запретить технологии. Это техническое задание для права: зафиксировать норму, создать институт, предусмотреть процедуру, установить ответственного за каждый тип нарушения.
Решение, от которого зависит судьба человека, не может быть ничьим. Оно должно оставаться человеческим – не потому, что человек не ошибается, а потому, что отвечать имеет право и должен только человек.
Автор материала: Игорь Бикеев, первый проректор КИУ имени В.Г. Тимирясова, д.ю.н., профессор, депутат Государственного Совета РТ
Этот ваш ИИ до добра не доведет, эта функция явно не несет Божественного начала, это все от лукавого
Никто ни за что не отвечает, мечта отечественного чиновника и бюрократа
Тема с красными линиями по понятным всем причинам кроме как лютого раздражения ничего не вызывает
Если ИИ нельзя запретить, значит его нужно возглавить в прямом и переносном смысле, где выгодно внедрять, там где он представляет реальную опасность ограничивать либо жестко контролировать
Железяки безмозглые никакой ответственности не несут, с них как с гуся вода, оно такое нам нужно вообще?