Ноам Хомский: ложное обещание ChatGPT

Перевод эссе Ноама Хомского «Ложное обещание ChatGPT», опубликованного год назад в The New York Times.

«Как это ни печально, некоторые энтузиасты машинного обучения, похоже, гордятся тем, что их творения могут генерировать правильные «научные» прогнозы (скажем, о движении физических тел) не прибегая к объяснениям (включающим, скажем, ньютоновские законы движения и всемирного тяготения). Но такого рода предсказания, даже если они успешны, псевдонаучны. Хотя учёные, несомненно, стремятся к теориям, которые бы обладали высокой степенью эмпирического подтверждения, как заметил философ Карл Поппер, «мы ищем не высоковероятных теорий, а объяснений, то есть плодотворных и невероятных теорий».

Теория, что яблоки падают на землю, поскольку это их естественное место (точка зрения Аристотеля), возможна, но она лишь вызывает дальнейшие вопросы. (Почему земля — их естественное место?). Теория, что яблоки падают на землю из-за того, что масса искривляет пространство-время (точка зрения Эйнштейна), крайне невероятна, но она на самом деле объясняет, почему они падают. Подлинный интеллект проявляется в способности думать и выражать невероятные, но проницательные вещи.

Подлинный интеллект также способен к моральному мышлению. Это означает ограничение безграничного творчества наших умов набором этических принципов, определяющих, что должно быть, а чего не должно быть (и, конечно, этот интеллект способен подвергать сами эти принципы творческой критике). Чтобы быть полезным, ChatGPT должен иметь возможность генерировать по-новому выглядящие мысли; чтобы быть приемлемым для большинства своих пользователей, он должен избегать морально неприемлемого контента. Но пока программисты ChatGPT и других чудес машинного обучения лишь из-за всех сил пытаются и будут продолжать пытаться достичь такого рода баланса».

Источник: syg.ma

Комментарии: