Кто учит искусственный интеллект – тот во многом определяет его ответы

На интенсиве Мастерской новых медиа «ГорИИзонты: эволюция медиа» представители науки, медиа, религиозных организаций и экспертного сообщества обсудили, где проходит граница между помощью технологий и передачей им человеческой ответственности.

Участники говорили о новой идентичности в эпоху ИИ, парасоциальных отношениях с цифровыми собеседниками, защите детей, этических кодексах и необходимости сохранять контроль человека над автономными системами.

В дискуссии принял участие выпускник «Сенежа», победитель конкурса «Лидеры России», руководитель издательства «Наука» Михаил Фомин.

Делимся его ключевыми тезисами:

Ответы искусственного интеллекта напрямую зависят от того, кто создавал модель, на каких данных и с какими установками ее обучали. Поэтому развитие собственных суверенных моделей – вопрос не только технологий, но и информационной безопасности страны.

ИИ позволяет мгновенно создавать огромные массивы правдоподобной, но недостоверной информации. Человеку становится все сложнее критически оценивать тексты, изображения, видео и программный код.

Научный подход особенно важен в эпоху генеративных технологий. Наука строится на проверке гипотез, поиске доказательств и готовности опровергать даже убедительно звучащие утверждения.

Критическое мышление должно стать базовым навыком не только ученых, но и всего общества. Привычное «я видел это своими глазами» больше не может считаться достаточным доказательством.

Механизмы безопасности необходимо закладывать еще на этапе разработки технологий. Контроль со стороны человека нельзя утрачивать, а принцип человекоцентричности должен оставаться основой развития искусственного интеллекта.

Завершая дискуссию, эксперты предложили собственные правила для будущего кодекса ИИ. Главный общий принцип – технологии должны расширять возможности человека, но не подменять его ответственность.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: