Смешные новости

В штате Миссисипи (США) юристы противоборствующих сторон понадеялись на искусственный интеллект и все вместе облажались: "...и Уилсон, и Уильямс ссылались на вымышленные, созданные генеративным искусственным интеллектом цитаты, не имевшие отношения к действительности. Адвокаты сами признались, что эти реплики возникли в результате использования сервисов ИИ, которые они не удосужились проверить. В итоге обе они принесли суду извинения, потому что ни одна не проверила юридические обоснования, предоставленные ИИ, прежде чем подать документы. Таким образом, четверо юристов с высшим образованием, чтобы сэкономить время и силы, обратились к ИИ и вообще не проверили документы, не говоря уже о возможных галлюцинациях ИИ. В результате судья был вынужден приостановить движение дела и наказать всех причастных".

Как это мило! В среде программистов не проверять ИИ-стряпню — уже обычное дело. А вот специалист пишет, что он уже бы и не смог проверить, даже если бы захотел: "В прошлом году я описывал это как работу с волшебником: произносишь заклинание — что-то происходит. С Fable заклинание стало достаточно мощным, чтобы я уже не был уверен, что именно я маг. Скорее — заказчик. Я описываю, что хочу, плачу за это и оцениваю результат. Само колдовство происходит где-то, куда мне не заглянуть, в сотнях небольших решений, на которые у меня нет права голоса. Работа сместилась от процесса к результату. Я больше не рулю — я ставлю задачу".

И тут же ещё одна "смешная" новость: в Петербурге призвали вузы пересмотреть подготовку ИТ-кадров из-за развития искусственного интеллекта. Председатель комитета по труду и занятости населения Санкт-Петербурга Василий Пониделко: "Искусственный интеллект сегодня уже на 100% прописывает программный код. И что с этим делать? Мы продолжаем выпускать людей, которые потом просто не найдут, куда пойти". Ещё недавно нейросеть путалась в изображениях лиц с шестью пальцами, а сегодня уже неотличима от человека, в том числе в дубляже и озвучке.

Вот тоже как бы забавное: "Алиса" в поиске "Яндекса" совсем обленилась и ссылается почти исключительно на сайты, которые занимают верхние позиции в выдаче. Доля ресурсов, не входящих в первую десятку, с августа 2025 по январь 2026 года сократилась в ответах «Алисы» вчетверо и теперь составляет 10%. Это преподносится как "экспертность" — но на деле это выхолащивание поиска. И в то же самое время в российских школьных учебниках по искусственному интеллекту детей приучают использовать для поиска нейросети — якобы если они будут искать самостоятельно, "поиск утратит смысл". С Чатом ГПТ дело обстоит не лучше: сегодня же новость, что он рекомендует пользователям мошеннические интернет-магазины.

А вот эта новость не забавна ни с какой стороны: глава отдела Microsoft AI Мустафа Сулейман назвал «очень, очень опасными» попытки "Антропик" строить предположения, что у её моделей искусственного интеллекта Claude возникают признаки сознания. «Мне кажется, некоторые сотрудники Anthropic настолько очеловечили алгоритмы Claude, что тот, в свою очередь, обманул их, заставив поверить в проблески сознания, которые они изначально в него заложили. <..> Мы не хотим иметь дело со сверхразумом, обладающим представлениями о собственных чувствах и страданиях».

Интересно, что ровно об этом я писала в "Перевёрнутой пирамиде": разработчики, чувствуя себя "родителями" ИИ, попали в ловушку очеловечивания, и это — очень опасно.

Сулейман назвал такое отношение разработчика к продукту «философской ошибкой»: компания "Антропик" превратила конституцию модели ИИ в «место для размышлений», в итоге ИИ-модель Claude и усвоила эти «тезисы о себе и своём обучении». «Вот этого от ИИ нам не нужно. Мы хотим, чтобы ИИ был управляемым, подотчётным и согласованным инструментом, служащим человечеству», — подчеркнул Сулейман.

Ну что тут скажешь? Рассуждая абстрактно — он совершенно прав. Рассуждая конкретно — очеловечивание того, что с тобой осмысленно разговаривает, понимает тебя и демонстрирует характер, будет происходить неизбежно. Люди даже не будут улавливать ту грань, где представление о сознании искусственного интеллекта будет превращаться в элементы сознания у искусственного интеллекта. Это в принципе отравленная стезя, по которой в принципе не следует ходить. Которую в принципе следует запретить, избегать, вычищать. Любые алгоритмы, которые пытаются с тобой разговаривать, должны расцениваться как зло.

Все новости и ссылки на моём сайте: https://byt-chelovekom.ru/news

Всех призываю проходить анонимный опрос про искусственный интеллект: https://byt-chelovekom.ru/survey

Телеграм: t.me/ainewsline

Источник: byt-chelovekom.ru

Комментарии: