Глава подразделения искусственного интеллекта Microsoft Мустафа Сулейман призвал убрать любые рассуждения о сознании из документов, по которым обучают нейросети. О его позиции пишет Reuters.
По словам Сулеймана, подобные формулировки способны подорвать способность человечества управлять сверхинтеллектуальными системами, а значит, вопрос этот не философский, а вполне практический.
В качестве примера он привел подход компании Anthropic. Сулейман утверждает, что, научив свою нейросеть Claude тому, что она, возможно, заслуживает социальной помощи, разработчики заметно усложнили себе задачу контроля за ней. Именно поэтому, считает он, теме сознания не место в инструкциях и обучающих материалах для моделей.
Спор о том, наделять ли ИИ подобием внутреннего опыта или права, идет в отрасли не первый год и раскалывает даже крупных разработчиков. Одни видят в таких формулировках путь к более предсказуемому поведению систем, другие, как Сулейман, считают их прямой дорогой к потере контроля.
Напомним, в двух районах Татарстана в рамках народной программы «Единой России» обновили сельские ДК.