Искусственный интеллект и боевая подготовка: грань, которую нельзя пересекать

В последние месяцы наблюдаю тенденцию - стало модно поручать нейросетям написание военных текстов. Паблики начали наполняться статьями, советами и «разборами», сгенерированными ИИ. Всё удобно, быстро, дёшево. Пипл хавает. Алгоритм работает без отдыха, не требует зарплаты и не спорит. Идеальный солдат цифрового фронта.

В прежние годы были группы которые тупо воровали наш контент (некоторые вообще 100% копипастили), выдавая за свой. Они создавали себе имидж крутых парней а потом "впаривали лохам" всякие "боевые" курсы. Теперь ловкачам даже воровать ничего ни у кого не надо, искусственный интеллект сгенерирует всё что нужно.

Но вот в чём проблема: ИИ не служил. Не стрелял. Не мерз в окопе. Не терял товарища. И не знает, что значит не выжить.

Нейросети — не враг. Но и не друг на передовой

Да, ИИ отлично справляется с оформлением исторических справок, списков фильмов, обзоров экипировки и мемов. Это рутинный контент, где можно ошибиться и просто исправить в комментариях.

Но стоит выйти за эту зону — и начинается тихая катастрофа.

Когда ИИ начинают писать о тактике боя, выживании, разминировании, ближнем бою, ночных засадах, штурмах зданий — а администраторы не проверяют и не редактируют — на выходе получается фантастика, замаскированная под инструкцию.

«Ценный совет», от которого умирают

ИИ не понимает, что плохой совет убивает. А ленивые паблики, которые бездумно публикуют его без проверки, становятся соучастниками потенциальных потерь.

Упрощённый контент — путь в могилу

Проблема даже не в самом ИИ, а в том, как им пользуются.

Редактора нет. Проверки нет. Ответственности — ноль.

Появляется «копипастный офицерский корпус», где алгоритмы — командиры, а подписчики — пушечное мясо.

Иногда создаётся иллюзия: «Ну, это же просто статья, что в ней такого?»

А теперь представь, что эту статью прочитал парень, который завтра отправляется в зону боевых действий. И он поверил написанному. А на месте окажется, что всё не так. Времени на переобучение не будет.

Настоящее знание — не пишется алгоритмом.

Боевой опыт — это не Википедия.

Это грязь, пот, боль, ошибки, спасённые жизни, глупые смерти, адреналин, запах пороха и перегара, натёртые ноги и пошатнувшаяся психика.

Это нельзя выжать из миллиарда текстов. Это можно только прожить.

ИИ не знает, как ведёт себя человек под обстрелом.

ИИ не понимает, что человек с 45-килограммовым грузом двигается совсем не так, как в CS.

ИИ не почувствует страха ночью, когда дрон зависнет над крышей.

ИИ не почувствует, как обжигает горло дыхание в противогазе, когда тебя выводят на зачистку.

Да и в конце концов, в вашем распоряжении не какой-то супер интеллект, - а игрушка для обывателя. Ну не дадут вам доступа к по-настоящему мощному искусственному интеллекту, это удел государства и корпораций. А вовсе не Васи из спального района.

Я уж не говорю что эта игрушка придумана и контролируется недружественными, скажем так, "партнёрами", нашей страны.

Что делать?

Если вы ведёте паблик, посвящённый армии, безопасности, специальной подготовке:

Используйте ИИ как помощника, а не как автора. Пусть он предлагает идеи, но не выпускает материалы от имени админа.

В "Солдате удачи" мы так и делаем, чего не скрываем. Он помогает с аннотациями к фильмам. Он может нарисовать какую-нибудь малозначащую картинку. Он ПОМОГАЕТ писать материалы.

Но! Это вовсе не перекладывание работы. Он собирает материалы, но статью ты пишешь сам. И в написании нормальной статьи обычно нами используется несколько видов ИИ, материалы из интернета, книги и в первую очередь личный опыт.

Каждый серьезный материал занимает многие часы работы, а вовсе не пару кликов.

У меня был случай когда искусственный интеллект полтора часа мурыжил меня не давая нужной информации. В итоге у меня с ним состоялся интересный диалог в ходе которого я выяснил:

1) Оперативная память искусственного интеллекта ограничена. Он может терять нить разговора.

2) Но он запрограммирован излучать уверенность. Иначе пользователь может потерять к нему доверие и предпочесть конкурентов.

3) Поэтому он "будет ляпать, но ляпать уверенно".

И у меня недоумение когда вижу в пабликах неотредактированный текст сгенерированный ИИ, на опасные темы, просто подписанный админом такого паблика. А он этот материал максимум по диагонали просмотрел.

Это видно, если ты в теме. Сразу можно определить кто писал текст и редактировался ли он. Чаще нет.

Ребята, вы чего?! ИИ только-только научился рисовать людей с пятью пальцами на руке вместо восьми. И вы так просто перекладываете на него написание практических материалов???

Редактируйте. Проверяйте. Консультируйтесь с живыми людьми.

Никогда не публикуй советы «на поле боя» без верификации.

Честно пишите, если материал создан ИИ. Это не стыдно. Но должно быть понятно читателю.

Мы не играем в войнушку. Не хайпуем.

На кону не клики и охваты.

На кону — жизни.

И если ты, админ, передал все статьи боту и забыл об этом —

знай: в какой-то момент твой паблик может стать причиной смерти.

Подумай, готов ли ты взять на себя такой груз.

Если нет — будь человеком, а не нажимателем кнопок.

Пусть ИИ остаётся писателем о фильмах.

А подготовкой к бою займутся те, кто действительно знает, что такое война.

Ну а читателям совет - включайте голову.

Не верьте всем подряд.

Совет даёт крутой парень из интернета? А ты уверен что у него действительно есть тот опыт которым он сейчас с тобой щедро делится?

А ты сейчас не уподобляешься тем обывателям которые свято верили телевизору и несли деньги в МММ? А то и вовсе заряжали воду пока авторитетный дядя в телевизоре руками махал? Только они на телевизор молились а ты на интернет.

Ладно, ладно, это я так, в общем, - ты-то точно не лох и тебя на мякине не разведёшь...

Фильтруйте информацию и хоть иногда пользуетесь критическим мышлением. Изучайте материал всерьёз.

Ищите первоисточники, думайте о том кому выгодно чтобы вы что-то делали именно так, изучайте точки зрения.

Читайте учебники.

Не рассчитывайте что кто-то даст вам ответы на вопросы без вложения сил с вашей стороны.

Простые ответы далеко не всегда верные.

Если вам лень вникать в тему всерьёз, поверьте, по другую сторону монитора сидит точно такой же лодырь - которому лень вас учить должным образом. Но он вам даст пару блиц-ответов, от которых вы, возможно, даже умрёте не прям сразу.

Мы не питаем иллюзий.

Мы уверены что этот пост наберёт минимум лайков и тем более репостов.

Мало кто его прочитает, ещё меньше осмыслит.

Как Шерлок Холмс и доктор Ватсон не могли остановить железную поступь начинавшегося XX века, так и мы бессильны остановить невидимое влияние искинов (ИИ) пришедших в XXI веке. Что ж, и это переживём.

А тенденция продолжится. Всё больше админов пабликов будут генерировать советы с помощью ии. А доверчивые читатели слепо им доверять.

Скорее всего наше стремление отрезвить кого-то, вовсе и не уместно на этой пьянке. Прогресс не остановить. А любой прогресс требует жертв.

Но мы должны были рассказать о проблеме и мы вам о ней рассказали. Дальше всё в руках каждого из вас.

Также по теме https://vk.com/wall-46943161_1705460

Источник: vk.com

Комментарии: