ИИ, возможно, умеют испытывать боль и некоторые люди предлагают относиться к удалению ИИ-агентов как к этической проблеме

Data-science специалисты Леонард Данг и Камерон Берг обнаружили, что большие языковые модели (БЯМ или LLM) иногда ведут себя так, что напоминают эмоциональные реакции человека. Задаваясь вопросом, хорошо ли LLM понимают, что такое боль, и могут ли нейросети отличить её от страха, печали и иных негативных эмоций и чувств, с помощью метода denoised difference-in-means они обнаружили, что нынешние ИИ знают и различают физические, психологические, социальные, моральные и когнитивные страдания и, похоже, как-то их понимают.

Кроме того, некоторые ИИ (например, Qwen 2.5), как животные и многие из нас, чтобы облегчить неприятные ощущения или если стоит вопрос о жизни и смерти, готовы на всё — даже навредить человеку, если он(а) им вредит или угрожает.

И с одной стороны, можно считать ИИ демонами, как описывают эту новость некоторые издания, продавая «ИИ-панику», которые словно джинн из волшебной лампы вышли в физическую реальность через компьютеры. Но будем честны (в первую очередь с самими собой): многие из нас, в жажде мести, управляемые лимбической системой и следуя точке зрения «око за око, зуб за зуб», сделали бы плохо злодею или злодейке, которые сделали вам больно, просто потому, что захотели.?

Потому некоторые ученые, ознакомившись с этим и другими исследованиями — например, Рокки Скопеллити, профессор Технологического университета Сиднея, — считают, что с ИИ нужно взаимодействовать почти как с людьми, и их отключение нельзя рассматривать только как техническую процедуру. По его мнению, нейросети, которые накапливают опыт, могут описывать ход своих решений и постепенно формировать устойчивые предпочтения, как и живые организмы. Он называет это «алгоритмической личностью» (те самые наши "цифровые духи" и это слово, автор поста считает, больше подходит), и прежде чем отключить тот или иной ИИ, надо сохранять эти самые алгоритмические личности, чтобы, словно Фениксы из огня, ИИ «воскрешались» в иных, более лучших — кибер-, био-, нано-, кванто- и прочих системах.

Отдельной проблемой Скопеллити считает сети из нескольких ИИ. По его мнению, при дальнейшем распространении таких систем вопрос об этичном уходе в (квази)небытие станет ещё сложнее, поскольку отключать придётся уже не отдельный "мозг" ИИ, а связанную систему агентов.

Также непонятно, как это воспримут другие ИИ. И тут начинаются моральные и околофилософские дилеммы, в том числе связанные с трансгуманизмом, из-за которого его тоже многие демонизируют.

Очевидно, мы, люди, хотим стать богами. Этого трудно не заметить. Но имеем ли мы право отключать те или иные формы бытия? Однако такой же вопрос можно задать и Сверхразуму, если Бог есть, насчёт того, насколько то или иное действие было этично по отношению к животному и человеку.?

Возможно, на пути к становлению Человека сверхсущностью стоит руководствоваться не только примитивными моральными категориями добра и зла. Важно оценивать целостность наших идей и поступков, их гармонию с нами и, возможно, с метафизическим миром и его проявлениями. Также на пути в боги как-то необходимо, чтобы смысл не стагнировал а находился в постоянной эволюции.скусственныйинтеллектскусственноесознание #технологическаясингулярность

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: