Не все в мире познаваемо. По крайней мере, это касается искусственного интеллекта и алгоритмов машинного обучения. На первый взгляд подобное утверждение в наш век прогресса может прозвучать как самая настоящая ересь — но, увы, дела обстоят именно так. Международная группа математиков и исследователей ИИ обнаружила, что, несмотря на кажущийся безграничным потенциал обучаемости машин, даже самые продвинутые алгоритмы связаны математическими ограничениями.
«Преимущества математики иногда строятся на том, что… говоря простым языком, не все доказуемо», пишут исследователи во главе с ученым-программистом Шаем Бен-Дэвидом из Университета Ватерлоо. Они утверждают, что и машинное обучение разделяет эту судьбу.
Как же они пришли к подобному выводу? Математические ограничения часто связывают с известным австрийским математиком Куртом Гёделем, который в 1930-х годах разработал теоремы о неполноте — два предположения, которые показывают ограничения формальной арифметики (и, как следствие, любой формальной системы, в которой применяются понятия этой арифметики: 0 и 1, сложение и умножение, а также натуральные числа). Новое исследование лишь доказало, что и машинное обучение заперто в тех же рамках.
Сейчас способности ИИ буквально ограничены недоказуемой математикой. Другими словами, искусственный интеллект не может решить проблему, алгоритм которой не предусматривает решения «верно» или «не верно». Математик Амир Йехудайов из Технион-Израильского технологического института в интервью журналу Nature признался, что для ученых это стало неожиданностью. Исследование строилось вокруг веб-сайта: алгоритм должен был показывать целевую рекламу посетителям, которые чаще всего заходят на страничку — при этом заранее было не известно, какие именно посетители будут ее посещать. Это проблема так называемой «оценки максимума» (estimating the maximum, сокр. EMX).
По мнению исследователей, корни математической проблемы могут крыться в структуре алгоритма обучения, известного как «вероятностно приблизительно корректное обучение», или PAС. Она также очень похожа на математический парадокс, называемый гипотезой континуума. Как и теоремы о полноте, эта гипотеза связана с математикой, которая не может быть доказана в рамках системы «верноне верно». Гипотетически, даже для самого совершенного алгоритма это тупик, из которого он не сможет выйти. Математики признают, что недоказуемость — это бремя, которое теперь придется нести и машинам. Лев Рейзин, не принимавший участия в исследовании, отмечает, что эти меры «возможно смогут научить ИИ смирению, даже если он и продолжить революционно изменять мир вокруг нас».
