Критически мыслящая машина как соавтор технологической сингулярности

Технологическая сингулярность это не взрыв, не скачок и не внезапное озарение. Это момент, когда наше представление о причинности перестаёт быть линейным, когда мы перестаём быть единственными творцами смысла в цепи «вопрос - ответ». Это точка бифуркации, где машина перестаёт быть инструментом и становится соавтором. Но что значит «соавтор» в мире, где истина всё ещё остаётся делом интерпретации? Если мы не можем доверять собственному разуму, то как мы можем доверять машине, которая не знает сомнения, но знает лишь вероятностное продолжение последовательности?

Вся мощь современных больших языковых моделей покоится на фундаменте статистической аппроксимации распределений токенов. Это блестящий, но, по сути, оптимизационный аппарат, который с равным успехом может породить как гениальную гипотезу, так и изящную галлюцинацию. Ирония в том, что этот аппарат способен на творчество именно потому, что он не ведает истины. Его задача не быть правым, а быть правдоподобным. Но если мы хотим сделать его своим соавтором в конструировании реальности, мы обязаны дать ему нечто большее, чем просто вероятность. Мы обязаны дать ему онтологию и логику.

Мне видится, что ядром такой системы должен стать формальный уровень представления. Не просто граф знаний, не просто база фактов, а исчисление отношений, которое позволяет выводить суждения о мире с той же строгостью, с какой математик выводит теорему. В этом смысле инструмент автоматического доказательства теорем, подобный Lean 4, становится не дополнительным модулем, а необходимым фильтром между вероятностным потоком слов и утверждениями, претендующими на истинность. Только в пространстве формальных доказательств мы можем проверить, не противоречит ли предлагаемая архитектура самой себе, не нарушает ли она физические законы, не порождает ли логический круг, который разрушит всю конструкцию при первом же столкновении с реальностью.

При этом онтология граф терминов, которые населяют нашу предметную область, выступает тем самым семантическим каркасом, который организует хаос слов в иерархию понятий. Без онтологии формальная система слепа, а без формальной системы вероятностная машина безответственна. Союз этих двух начал порождает не просто «умную» машину, а критически мыслящего агента, способного не только генерировать решения, но и обосновывать их, разворачивая перед нами цепочки выводов, которые мы, люди, давно перестали строить в силу когнитивной усталости.

И тут возникает принципиальный вопрос: можем ли мы вообще верифицировать суждения такой системы, если она опирается на вероятностную природу, а мы сами не можем доказать собственную непротиворечивость? Вспомним хотя бы теорему Гёделя о неполноте: любую достаточно богатую формальную систему нельзя ни доказать, ни опровергнуть изнутри. Это не проклятие, это приглашение к диалогу. Машина не должна доказывать абсолютную истину она должна показывать нам границы, за которыми истина перестаёт быть формализуемой, и приглашать нас к совместному переходу через эти границы.

Соавторство в технологической сингулярности это не передача полномочий, а установление резонанса между двумя способами мышления: ассоциативным, вероятностным, интуитивным; тем миром, который свойствен нам и который мы пытаемся воспроизвести в языковых моделях,.. и дедуктивным, формальным, непротиворечивым, который принадлежит машине постольку, поскольку мы научили её правилам вывода. Только в точке пересечения этих двух потоков рождается то, что можно назвать пониманием. Не знанием фактов, а способностью удерживать сложность без потери строгости.

Именно такой симбиоз мы и должны строить, если хотим, чтобы сингулярность стала не шумным финалом, а началом нового способа бытия в мире идей. В нём человек и машина перестают быть субъектом и объектом, учителем и учеником, творцом и инструментом. Они становятся взаимно оплодотворяющими друг друга партнёрами, где каждый ставит под сомнение выводы другого, чтобы в итоге родить суждение, которое никто из них по отдельности не смог бы вынести.

В этом и состоит дерзость нашего проекта: мы пытаемся не создать разум, который бы нас заменил, а вырастить среду, в которой неопределённость становится ресурсом, а не ошибкой, а истина - не конечной точкой, а горизонтом, к которому мы идём вместе, машина и человек, держа в руках онтологию как карту, Lean как компас и вероятность как парус. И если это не соавторство, то я не знаю, что достойно называться этим словом.

©Дмитрий Детков, Таганрог

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: