Порочный круг атомного ИИ

Все чаще сталкиваюсь с новостями о том, что для эффективного развития ИИ (в том числе нейросетей) жизненно важно ускоренное наращивание атомной энергетики

Просто потому что атомная энергия - «зеленая» и почти неиссякаемая

Для этой цели американский Westinghouse (один из лидеров атомной отрасли в США) совместно с Microsoft бездумно решили замкнуть порочный круг: хотят расширять атомную энергетику с помощью ИИ, а ИИ - с помощью атомной энергетики. Для этого предлагают использовать нейросетевые модели для генерации документов по безопасности атомных объектов и ускорения процесса лицензирования!

Сразу скажу, современное увлечение нейросетями во всех сферах жизни может привести к хаосу и бесконтрольному их применению. Отрадно, что эксперты исследовательского института «AI Now Institute» (США) подготовили развернутый отчет (приложен в конце поста) с описанием рисков, которые могут возникнуть при применении ИИ для регулирования атомной энергетики.

Важно понимать, что многие ИИ-модели сейчас не умеют говорить «нет», а просто выдумывают ответ или искажают факты и данные

Цена ошибки в атомной энергетике крайне высока - именно поэтому все вопросы, касающиеся безопасности, должны рассматриваться квалифицированными экспертами с соответствующим опытом. Говорю не понаслышке, так как уже 7+ лет посвятил экспертизе безопасности. В связи с чем, безопасность атомных объектов преждевременно и опрометчиво отдавать на откуп ИИ. Да и кто будет отвечать в случае ошибки ИИ и возникновения аварии? Согласен, что в отдельных случаях нейросети могут быть помощником эксперта, но только в качестве справочника или умного поисковика, но никак не в качестве полноценного проектировщика или эксперта

Источник: vk.com

Комментарии: