В 2025 г. на секретной встрече ведущие математики мира собрались в Беркли, Калифорния, чтобы протестировать новейшую большую языковую модель o4-mini от OpenAI, обсудить судьбу своей профессии.
Однако в ходе обсуждения возник еще более тревожный вопрос. В прошлом уверенность и убедительность аргументации служили признаками того, что доказательство верно, поскольку только самые лучшие доказательства могли убедить остальных специалистов в своей области. Однако теперь ИИ выдает сотни доказательств, которые могут быть ошибочными, но слишком сложны для проверки.
Эксперты, присутствовавшие на встрече, были поражены тем, насколько естественно модель воспроизводит ответы настоящего математика при проведении сложного доказательства.
«Я никогда раньше не видел подобных рассуждений в моделях, — Кен Оно, профессор теории чисел в Университете Вирджинии сказал тогда. — Именно так и должен поступать учёный».
«Если бы вы были плохим математиком, то были бы и плохим популяризатором математики и делали бы акцент не на том, на чем нужно, — сказал Терри Тао, математик из Калифорнийского университета в Лос-Анджелесе — Но ИИ уловил этот сигнал».
Естественно, математики начинают беспокоиться, что ИИ завалит их убедительными на вид доказательствами, которые на самом деле содержат ошибки, которые сложно обнаружить человеку.
Тао предупредил, что аргументы, сгенерированные ИИ, могут быть приняты за чистую монету, потому что они выглядят убедительными.
«К сожалению, ИИ гораздо лучше имитирует правильный ответ, чем дает его на самом деле… правильный или неправильный. Он всегда выглядит убедительно», — сказал Тао.
Он призвал с осторожностью относиться к «доказательствам» работы ИИ. «Мы поняли, что если поставить перед ИИ цель, он будет обманывать как сумасшедший, чтобы ее достичь», — сказал Тао.
Вопрос о том, можем ли мы по-настоящему «доказать» сложные математические гипотезы, если не понимаем их доказательств, может показаться абстрактным, но ответ на него имеет большое значение. В конце концов, если мы не можем доверять доказательству, мы не можем развивать математические инструменты и методы на его основе.
Например, одна из главных нерешенных проблем вычислительной математики, получившая название «P против NP», по сути, заключается в том, чтобы выяснить, можно ли с помощью простых методов проверить, что решение задачи, которое легко найти, на самом деле легко найти. Если мы сможем это доказать, то сможем усовершенствовать планирование и маршрутизацию, оптимизировать цепочки поставок, ускорить разработку микросхем и даже ускорить поиск новых лекарств. С другой стороны, проверяемое доказательство может поставить под угрозу безопасность большинства современных криптографических систем. Ответы на эти вопросы не просто сложны для понимания, они могут быть по-настоящему опасны.
Нематематиков может шокировать тот факт, что в какой-то степени математические доказательства, созданные людьми, всегда были социальными конструктами, призванными убедить других специалистов в том, что аргументы верны. В конце концов, математическое доказательство часто принимается за истину, когда другие математики анализируют его и считают верным. Это значит, что широко признанное доказательство не гарантирует, что утверждение истинно.
На протяжении веков создание и проверка доказательств были делом рук человека — аргументы выстраивались таким образом, чтобы убедить других математиков. Мы приближаемся к ситуации, когда машины смогут создавать безупречную логику, проверенную формальными системами, которой не смогут следовать даже лучшие математики.
В этом будущем сценарии — если он воплотится в жизнь — ИИ будет выполнять все этапы, от выдвижения гипотез до тестирования и проверки доказательств, «и тогда вы победите, — сказал Лакенби (Оксфордский университет). — Вы что-то доказали». Однако такой подход поднимает глубокий философский вопрос: если доказательство становится чем-то, что может понять только компьютер, остается ли математика делом рук человеческих или она превращается во что-то совершенно иное? И тогда возникает вопрос: в чем же смысл.