ИИ, эффект бабочки и двойной маятник в голове

В 1961 году метеоролог Эдвард Лоренц ушёл налить себе кофе, а вернувшись — изобрёл эффект бабочки.

Он просто округлил данные до третьего знака после запятой.

Через несколько минут симуляция погоды ушла в такую сторону, что и фантастам не снилось.

60 лет спустя мы запускаем другую систему — ИИ.

И кто-то снова отошёл налить себе кофе.

ИИ — не просто алгоритмы.

Это хаос с лицом интерфейса.

Его поведение напоминает двойной маятник: пока смотришь — вроде всё под контролем, но стоит моргнуть — и он крутится в непредсказуемом бешенстве.

Мы привыкли думать: технология — это порядок, линейность, предсказуемость.

Но ИИ — это не калькулятор, а бабочка, махнувшая крыльями в Цюрихе и устроившая бурю в Техасе.

Система обучается на данных, которые мы ей скармливаем.

А данные — это наше поведение, привычки, ошибки, настроение, языковые обороты.

Одна мелочь в обучении — и в итоге система рекомендует странное, принимает несправедливое решение, лечит не то, увольняет не того.

ИИ — это воплощённая задача трёх тел: данные, алгоритмы, цели.

Между ними — напряжение, сложная гравитация.

Малейшее смещение в одной точке — и вся модель летит по другой траектории.

Программисты говорят: “Мы не знаем, как она приняла это решение”.

Ну да, а Лапласов демон сегодня бы просто махнул рукой.

Что делать?

– Понимать, что мы имеем дело с хаотической системой, а не с коробкой из Икеи.

– Учиться задавать правильные начальные условия — иначе вместо бабочки получится дракон.

– И не забывать: хаос — не всегда зло.

Это ещё и поле для неожиданной красоты, смысла и эволюции.

Как тот фрактал Лоренца — когда из хаоса вдруг рождается форма бабочки.

ИИ — это не будущее.

Это настоящее, которое мы не в силах предсказать, но можем — осмыслить.

«ИИ сегодня — это как запущенный двойной маятник, ты его толкнул чуть правее — он сделал один кульбит, толкнул чуть левее — и он разнёс стену.»

Источник: vk.com

Комментарии: