Неявное знание: почему ИИ не станет человеком

 
Мы знатно увязли в маркетинговом тумане. И уже привыкли к новостям, что очередная нейросеть «сдала экзамен» или «написала текст лучше человека». Кажется, ещё чуть-чуть – и у нас появится полноценный цифровой собеседник для «просто поболтать».
 
Однако в научной среде растёт уверенность, что главная преграда лежит глубже вычислительной мощности. Речь о неявном знании. Если без заумных терминов: это огромный пласт того, что делает нас людьми, но что физически невозможно упаковать в код.
 
Последние 75 лет ИИ развивался вокруг двух иллюзий, оставшихся нам от Алана Тьюринга. Первая – что разум можно «вытащить» из тела и «засунуть» в программу. Вторая – если машина ловко имитирует человека в чате – значит она умная.
 

 
Оба пункта теперь под большим вопросом. Слова – это не смысл. Это только ярлыки, навешенные на наш реальный опыт. Чтобы понять хорошую шутку или почему кому-то грустно от дождя за окном, нужен огромный контекст. Вчерашний разговор, детские воспоминания, культурный код поколения… Этот список можно продолжать бесконечно. А для ИИ это просто вероятность следующего токена.
 
Музыкант никогда не сможет объяснить формулой, как заставляет зал замереть. Он это чувствует спиной, руками, дыханием. А машина никогда не сможет понять, каково это, как бы точно она ни копировала движения. У неё нет тела, и нет такого опыта.
 
Попытки закодировать «здравый смысл» вручную длятся десятилетиями. Например, проект Cyc за 40 лет собрал базу из 25 миллионов правил, но экспертная система так и не стала по-настоящему умной. Здравый смысл оказался слишком размытым и контекстным для того, чтобы стать готовой схемой или картой правил.
 
Всё больше экспертов приходят к мнению, что, скорее всего, мы никогда не создадим очеловеченный сверхразум. Вместо этого автономные сети машин, вероятно, разовьют свой собственный, чисто машинный интеллект. Он не будет ни плохим, ни хорошим – он просто будет абсолютно чужим. Без гормонов, страха, эмпатии… И договориться с таким о «безопасности» на человеческом языке будет той ещё задачей.