Стоп-кран для Терминатора: глава Microsoft AI призвал остановить разработку ИИ при первых признаках машинного сознания

В сфере искусственного интеллекта разгорается фундаментальный спор о будущем технологий. Глава подразделения Microsoft AI Мустафа Сулейман опубликовал манифест «Don't build conscious superintelligence» («Не создавайте сознательный суперинтеллект»). Он жестко выступил против наделения ИИ человеческими свойствами и призвал немедленно сворачивать проекты, если машины начнут «думать и чувствовать».

Разбираем суть конфликта между техногигантами. ?

Никакого сознания: позиция Microsoft

Мустафа Сулейман уверен: создание мыслящего и чувствующего ИИ — это верх безответственности. Если во время обучения будущих моделей проявятся явные признаки субъективного опыта, разработку нужно поставить на паузу, пока эти свойства не будут полностью удалены.

Глава Microsoft AI выделил три ключевых тезиса:

• Текущий ИИ — это просто инструмент: современные модели не обладают сознанием, не умеют страдать, а значит, не должны иметь никаких юридических или моральных прав.

• Опасность эгоизма ИИ: если обучить продвинутую нейросеть размышлять о собственном «благополучии» и «страданиях», в будущем она может начать ставить свои интересы выше человеческих. Такой ИИ станет бороться с людьми за ресурсы — электроэнергию и вычислительные мощности.

• Максимальная огласка: любые намеки на появление машинного разума должны мгновенно раскрываться общественности, а не решаться тайно внутри корпораций.

Эти принципы Microsoft уже зафиксировала в черновике своего свода правил Humanist AI Code of Conduct, где во главу угла ставится жесткий контроль со стороны человека.

Противостояние: подход Anthropic

Взгляд Microsoft радикально отличается от стратегии создателей нейросети Claude — компании Anthropic. Между ними наметился четкий раскол:

• Anthropic официально запустила программу по изучению «благополучия моделей». Разработчики целенаправленно добавляют темы идентичности, сознания и морали в обучающие материалы, чтобы понять, может ли ИИ обрести опыт, заслуживающий уважения. Более того, в их внутренней «конституции» прописан пункт о потенциальном моральном статусе нейросети.

• Microsoft считает такие эксперименты опасными и критикует коллег за то, что они сами подталкивают ИИ к очеловечиванию.

Несмотря на разногласия, Сулейман похвалил Anthropic за открытость, отметив, что эта дискуссия должна двигать науку вперед, а не приводить к вражде лабораторий.

Главная проблема

Идея «остановить разработку при появлении сознания» звучит правильно, но на практике она пока невыполнима. В мировой науке до сих пор нет консенсуса о том, что такое сознание, и не существует ни одного надежного метода, способного его измерить или обнаружить в цифровом коде. Пока корпорации продолжают гонку мощностей, грань между продвинутой имитацией и реальным разумом остается размытой.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: