Про сознание, разум и ИИ - 2024-03-14

В интернете периодически возникают дискуссии, про разумность ИИ, или “как сделать ИИ таким же как человеческий” и т.п. Обычно они исходят из того, что нужно улучшать и улучшать ИИ и тогда он станет “как у человека”.

Я думаю, что разумность - не какая-то фиксированная величина, это определяется обществом. Что такое интеллект - определяют люди. И они вполне могут решить, что даже современный ChatGPT - разумен. Но они так же могут решить, что даже будущий супер-пупер ИИ туп, как пробка.

И мне кажется, успехи в ИИ подталкивают людей переосмысливать, что такое разум или сознание. Не только ИИ, не только человеческий, но и у животных. И этот процесс переосмысления вполне успешно идет. На днях в Nature опубликовали статью про “социальный разум” пчел. А на Y-Combinator обсуждают статью (причем старую - 2020 года) про разумность членистоногих.

Этот процесс скорее всего займет не один год и я не знаю, к чем он приведет. Но я уверен, что для того, чтобы назвать будущий ИИ разумным потребуются социально-культурные изменения (которые никто не сможет проконтролировать), а не только усилия математиков/ученых/ИИ-инженеров (которыми управлять как раз реально).