«Виновата система» — эта фраза, по мнению депутата Госсовета РТ Игоря Бикеева, становится современным аналогом нацистского оправдания «я лишь выполнял приказ». В авторской колонке для KazanFirst эксперт утверждает, что передача решений искусственному интеллекту создаёт «зону структурной безответственности», где производитель кивает на пользователя, пользователь — на алгоритм, а спросить не с кого. Бикеев предложил законодательно зафиксировать «красные линии»: сферы, где решение обязано оставаться человеческим, — от правосудия до управления оружием массового поражения.
В пресс-центре ТАСС в Москве на пресс-конференции был представлен итоговый доклад «Дух Победы и мировая гуманитарная повестка. Нюрнбергский императив в эпоху антропотехнического перехода: гуманитарный прагматизм как программа мирового развития», приуроченный к предстоящему 80-летию ООН и 80-летию принятия Всеобщей декларации прав человека.
Его презентовали и комментировали советник президента Российской Федерации, председатель Совета при президенте РФ по развитию гражданского общества и правам человека Валерий Фадеев, генеральный директор ICS Consulting Алексей Пастухов, член Научно-экспертного совета по проблемам управления Института экономики РАН Николай Григорьев, депутат Государственной Думы Николай Николаев и ваш покорный слуга.
В числе прочих вопросов эксперты провели своего рода параллель между выполнением приказа, которым на Нюрнбергском трибунале нацистские преступники пытались оправдать свои злодеяния (дескать, «это не мы, это Гитлер и Гиммлер виноваты, мы лишь выполняли свои служебные обязанности»), и современным стремлением людей возложить груз принятия решений на искусственный интеллект («так решил алгоритм»). И в том и в другом случае налицо уловка, лукавство для того, чтобы избежать собственной персональной ответственности.
Я отвечал за правовую сторону содержания доклада и озвучил следующие тезисы. В чём же, собственно, юридическая проблема?
Право не может работать без субъекта – того, кто совершает поступок, должен и способен нести за него ответственность. У вычислительной системы такого носителя нет. Ей нечем отвечать. Она не может раскаяться, её нельзя наказать, с неё нельзя взыскать возмещение вреда.
И вот что происходит, когда решение передаётся машине. Производитель кивает на пользователя: «Мы лишь поставили инструмент». Пользователь кивает на алгоритм: «Так показала система». А алгоритм лицом не является. Возникает то, что в этике техники называют разрывом ответственности, а я называю зоной структурной безответственности. И эта зона расширяется ровно с той скоростью, с какой автономные системы заходят в медицину, финансы, правосудие, безопасность, управление.
Право знает, как закрывать такие зоны. Оно занималось этим веками. И первое, что оно должно сделать, – отказаться от ложного решения, которое сегодня кажется удобным. Я имею в виду идею «электронного лица», правосубъектности искусственного интеллекта – идею наделить алгоритм правами и обязанностями, чтобы было «с кого спросить».
ИИ-система не является лицом, не обладает волей, дееспособностью и способностью нести юридическую ответственность. Она использует правила и выполняет задания разработчика или пользователя.
На мой взгляд, правосубъектность искусственного интеллекта – юридически опасная конструкция. Она не закрывает разрыв ответственности – она его узаконивает. Наделить алгоритм правосубъектностью – значит, создать удобную ширму, за которой человек и корпорация уходят от ответа. «Виновата система» – и взять с неё нечего.
Наш принцип предельно ясен: от любого последствия должен оставаться восстановимый путь к конкретному человеку или организации. Всегда. Алгоритм может считать, ранжировать, подсказывать. Но он не может быть крайним, нести ответственность.
И здесь – самый важный тезис. Обычно право реагирует на вред после того, как он наступил: случилась авария, причинён ущерб – начинаем разбираться. С автономными системами эта логика проваливается. Когда вред уже наступил, спрашивать часто не с кого – субъект растворился в цепочке делегирований.
Поэтому предлагается сместить точку фиксации. Красная линия пересекается в момент передачи решения машине, а не после наступления вреда. Юридически значимое событие – это сам акт делегирования: когда человек или организация решают вывести из-под человеческого контроля решение, которое выводить нельзя.
Отсюда – красные линии делегирования. Есть сферы, в которых решение обязано оставаться человеческим независимо от качества и точности систем: жизнь и природа человека; центральные вопросы правосудия и законотворчества; смыслообразующее культурное производство; воспитание развивающейся личности. И абсолютная красная линия, не знающая исключений, – допущение автономных систем к управлению оружием массового поражения и иными средствами необратимого ущерба.
То, что говорится, – не призыв запретить технологии. Это техническое задание для права: зафиксировать норму, создать институт, предусмотреть процедуру, установить ответственного за каждый тип нарушения.
Решение, от которого зависит судьба человека, не может быть ничьим. Оно должно оставаться человеческим – не потому, что человек не ошибается, а потому, что отвечать имеет право и должен только человек.
Этот ваш ИИ до добра не доведет, эта функция явно не несет Божественного начала, это все от лукавого