[Перевод] Взрыв мозга: почему Google, OpenAI и Anthropic не понимают математику

Дерзко начну:

Математика не подвела искусственный интеллект. Искусственный интеллект подвёл саму математику, отказываясь учитывать важнейшие математические концепции, имеющие прямое отношение к интеллектуальным системам: теорию категорий, топологию, дифференциальную геометрию и структурные связи между ними.

Это важно подчеркнуть, поскольку именно сейчас идея катего́рного подхода стала популярным инструментом для того, чтобы казаться глубокими мыслителями, аккуратно нарисовать стрелочки и забыть о важнейших аспектах, делающих разработку интеллектуальной системы сложной задачей: времени, памяти, истории и самих путях решения.

Итак, если вам интересно, почему ваша система машинного обучения демонстрирует разное поведение в среду, хотя формально никаких изменений не произошло, продолжайте чтение. Мы раскроем истинную природу проблемы. И дело тут совсем не в случайных багах. Это фундаментальное ограничение архитектуры, которое гораздо глубже, чем принято считать.

Читать далее