Gödel's closure: AI for creating AI | Гёделево замыкание: ИИ для создания ИИ

I remember that I wrote already that an artificial intellectual system is being developed in the depths of the Corporation of Good, which rewrites its own code. It turns out that the essence of this project — AutoML — is that, under a given task described at a fairly high level, the AI

system created a child AI system to effectively solve the task. Motivation is simple: the world is very serious shortage of specialists in the field of Artificial Intelligence. According to some estimates — only 10 thousand people around the world (lol). In general, in the designated laboratory Google wants to provide a universal tool for creating efficient AI systems for mass commercial use.

Well, this is quite a laudable motivation, you will not say anything. But, taking into account the achievements in mathematical logic, there are questions of a more serious plan. These are the so-called «Gödel questions» that if such an AI system is tasked with creating an AI system for creating other very effective AI systems. This is a recursion of a very high order, the implementation of which can lead to the creation of an AI (self-aware artificial being), or may not result (most likely) due to resource constraints. In other words, the computing and communication capacities will run out faster than the AI appears.

To think about this is very interesting. But for this it is necessary to have a mature conceptual apparatus based on the foundations of mathematics and formal logic. So I very much urge all my readers to immerse themselves in these most interesting areas of knowledge. And I invite you to a discussion.

Помнится, я писал уже о том, что в недрах Корпорации Добра разрабатывается искусственная интеллектуальная система, которая переписывает свой собственный код. Оказывается, что суть этого проекта — AutoML — в том, чтобы под заданную задачу, описанную на довольно высоком уровне, ИИ-система создала дочернюю ИИ-систему для эффективного решения поставленной задачи. Мотивация же проста: в мире очень серьёзен дефицит специалистов в области Искусственного Интеллекта. По некоторым оценкам — только 10 тысяч человек во всём мире (хе-хе). В общем, в обозначенной лаборатории Google хотят предоставить универсальный инструмент для создания эффективных ИИ-систем для массового коммерческого использования.

Что ж, это довольно похвальная мотивация, ничего не скажешь. Но, принимая во внимание достижения в математической логике, возникают вопросы более серьёзного плана. Это так называемые «гёделевы вопросы» о том, что если такой ИИ-системе поставить задачу создать ИИ-систему для создания других очень эффективных ИИ-систем. Это рекурсия очень высокого порядка, реализация которой может привести к созданию ИскИна (самоосознающего искусственного существа), а может и не привести (скорее всего) из-за ресурсных ограничений. Другими словами — вычислительные и коммуникационные мощности закончатся быстрее, чем появится ИскИн.

Размышлять над этим очень интересно. Но для этого необходимо иметь зрелый понятийный аппарат, основанный на основаниях математики и формальной логике. Так что очень призываю всех своих читателей погружаться в эти интереснейшие области знания. И приглашаю к обсуждению.