О новом виде атак на нас

О новом виде атак на нас. Отравление данных — это понятие из темы обучения нейросетей.

Ясен пень, что для обучения языковых моделей нужны качественные данные. Нейросеть отравляется на некачественных данных, такое может случиться ненамеренно.

Но силу набирает и намеренное отравление данных — это новый вид атак, помимо привычных хакерских, привыкайте. Мир изменился.

Нам подсовывают опору в виде гигантских мощных нейросеток, мол, пользуйся, не боись. Но в нужных местах она соврет, подставит, направит не туда.

Отказался от телевизора, так съешь нейросеточку — она удобная, дорогая, но тебе бесплатно, только ешь!

К отравленным данным относятся тексты троллей, злонамеренных товарищей, шутников, дураков, маркетологов с кликбейтом, а также (внимание!) контент, который выдают нейросети, боты.

Короче, буде используете для своих текстов нейросети, то знайте, эти тексты отравленные. Чисто математически.

ПС. Интересно... Нейросетям вредно учиться по нейротекстам, а человеку норм?

Источник: vk.com

Комментарии: