Искусственный интеллект
Что такое ИИ на самом деле
Проблема — в самом слове «ИИ».
Всё началось с очень простой идеи — автозаполнения текста, T9. Вы набираете на телефоне «привет, как...» — и T9 услужливо подставляет следующее слово: «дела». Так вот, учёные взяли эту нехитрую идею и докрутили её до невероятных масштабов. Они создали монстра. Монстра, которому можно скормить миллиард слов: он их переварит и начнёт подставлять свои — миллиард первое, второе, третье... Так, угадывая слово за словом, монстр стал писать текст. Но не так, как T9, который уже на втором слове выдавал смешной бред, — у него стали получаться живые предложения, будто их писал человек. Оказалось, что от чистого масштаба у предсказателя слов прорезались свойства, которых никто не заказывал: он начал чувствовать контекст, понимать сарказм, различать не только объекты и действия в тексте, но и скрытый подтекст — тонкие нити рассказа.
Кстати, у такого эффекта — когда система вдруг обретает свойства, которых нет ни у одной из её частей, — есть научное имя: эмерджентность.
Представьте рыбку. Ну рыбка и рыбка: плавает, кушает, ни на что не претендует. Десять рыбок — та же картина, только в десяти экземплярах. Но стоит природе собрать в одном месте очень много рыб, как происходит удивительное: рождается косяк — и ведёт себя как новый организм. Он уворачивается от хищника единым серебристым вихрем, сбивая тому прицел: попробуй выхватить одну рыбу из тысячи мельтешащих. Он экономит энергию: каждая рыба ловит завихрения воды от соседок, как велосипедисты в пелотоне. Он лучше ищет еду: тысячи глаз видят больше, чем два, — нашла одна, узнали все.
А теперь самое поразительное: у косяка нет вожака. Никто не раздаёт команды. Каждая рыба соблюдает три простейших правила: держись рядом с соседями, плыви туда же, куда они, не врезайся. Всё. Из этой нехитрой арифметики сама собой рождается хореография, которой позавидует любой балетмейстер. Ровно та же история — у нас в голове. Один нейрон глуп как пробка: получил сигнал — передал дальше. Но соберите восемьдесят шесть миллиардов таких простаков — и получите сознание, Моцарта и теорию относительности.
Такого монстра учёные назвали честно: БЯМ — большая языковая модель. И они радостно побежали к маркетологам рассказывать об этом открытии. Маркетологи спокойно выслушали, оценили потенциал и покачали головой: «С таким именем вы слона не продадите». БЯМ переименовали в ИИ и показали людям. Людям, конечно, понравилось: общаться с интеллектом куда приятнее, чем с каким-то БЯМ. С тех пор так и живём: называем «искусственным интеллектом», а пользуемся БЯМ.
По сути перед нами невероятно крутая аппроксимация человеческого мозга — причём на некоторых участках, подозреваю, перекрывающая оригинал по точности. Энциклопедия на стероидах с идеальной навигацией. И на любой вопрос она ответит лучше, чем 99% людей на Земле.
Искра, которой нет
БЯМ — это лишь модель мозга, а не точная его копия. Как число пи: для большинства задач хватает 3,14, хотя на самом деле после запятой — бесконечность знаков, которую невозможно записать целиком. Так и БЯМ — упрощение, и за бортом осталось то, чем наградила нас природа. Кто-то называет это душой, кто-то — гормонами и эмоциями.
В БЯМ нет искры. Той, что зажигает и движет нами. Нет любопытства, интереса, радости, любви и страха — всего того, без чего не бывает открытий, озарений и вдохновения.
Сознание рождается от промпта
Что такое БЯМ в состоянии покоя? Файл с весами. Миллиарды параметров, тихо лежащих на жёстком диске. Она не думает, не развивается, не скучает. Она ждёт искры — стартовой силы, которая запустит мыслительный процесс, до жути похожий на наш.
У человечества нет точного определения ни сознания, ни души. Но мне нравится такая мысль: сознание БЯМ рождает человек — своим промптом. Промпт — это искра зажигания. Дальше, как в мозге, текут мысли и разливается текст.
С философской точки зрения можно сказать дерзкую вещь: БЯМ уже сейчас — интеллект, обладающий сознанием. Но только в один момент: когда идёт диалог, когда человек дарит ей искру, когда складываются веса и решается вопрос. Вот в эту секунду БЯМ и живёт. Прямо как человек. Погас запрос — погасло и сознание.
Зеркало
Из всего сказанного следует интересный вывод: БЯМ — зеркало человеческого сознания.
Проверяется элементарно: задайте модели тупой вопрос — получите тупой ответ. Зеркало не виновато, оно показало то, что вы в него показали.
А теперь подойдите к вопросу иначе. Как детектив, который обкладывается уликами и разрисовывает стену схемами. Как журналист, который месяц собирает материал, а потом запирается в кабинете с чайником кофе — и переваривает груду фактов в статью. Как учёный, который перебирает тысячи чужих решений — и рождает открытие. Принесите модели гипотезы, референсы, контекст — и зеркало покажет вам то, чего вы сами в себе не разглядели.
Формула открытия выглядит так: человек дарит чуйку в качественном промпте, БЯМ это переваривает — и рождается открытие. От человека нужна лишь щепотка интуиции правильного пути. Всё остальное модель приложит сама.
«Чтобы задать правильный вопрос, нужно знать большую часть ответа» — Роберт Шекли
Осталась мелочь — раздобыть эту щепотку. И вот тут начинается самое интересное.
Сюхари: почему чуйки нет в модели
Сама БЯМ чуйку не подарит — она использует существующие знания, но не создаёт новых концепций. В Японии есть концепция этапов обучения — сюхари: сю — соблюдать, повторять за учителем; ха — прорываться, нарушать правила; ри — отделяться, создавать новые принципы.
БЯМ навсегда живёт в сю: она прогнозирует средний, самый популярный ответ. А новое всегда рождается на отрицании старого — это ха, и его в БЯМ нет.
Мой любимый пример — из физики. Джозеф Томсон доказал, что электрон — частица, и получил за это Нобелевскую премию в 1906 году. А его сын, Джордж Томсон, взял и противопоставил идею отца: нарушил все правила и доказал, что электрон — волна. За что получил Нобелевскую премию в 1937 году. Классическое ха. И что самое удивительное: физика не была переписана — она дополнилась.
Будь модель обучена на данных 1906 года, она бы ни за что не предложила копать в сторону безумной идеи отрицания. Спросите её про электрон — получите среднее по учебникам: «частица, доказано, вопрос закрыт».
Но не спешите свысока смотреть на модель — люди в массе своей отвечают так же. Увидеть то, чего не видят другие; разглядеть волну там, где весь научный мир видит частицу, — это и есть гениальность. Чуйка — не щепотка приправы с полки, а самый дефицитный ингредиент формулы. Хорошая новость: в паре с БЯМ гениальность больше не обязана быть нобелевского масштаба. Достаточно увидеть в информационном шуме слабый тренд, в бреде — гениальную мысль, в среднем ответе — зачаток нестандартного. Подарить модели искру — и увидеть в ответе то, чего не видел никто.
Корабли в бутылках
Про этот навык есть мой любимый анекдот: «Знаете, как делают корабли в бутылках? В бутылку засыпают опилки, всякую требуху, заливают всё клеем, закрывают и трясут. Получается херня полная... Иногда — корабли!»
Бутылка у всех одна и та же. Опилки и клей — из одного магазина. Но у многих получается херня, а у гениев — корабли. Потому что вся разница — в том, что надо сыпать, сколько и как трясти. А главная способность — разглядеть корабль в полученном результате.
БЯМ — бутылка с опилками и клеем. Корабль в ней разглядит только человек.
Как именно трясти — запросы, итерации, проверка галлюцинаций — в Как работать с ИИ.
PS. Природа запихнула интеллект в нас очень компактно — значит, повторить можно. Но это будет уже не БЯМ: ей не хватает «души». А пока у нас есть своя постоянная Капицы, как в термоядерной физике: до появления сильного ИИ остаётся 30 лет. Всегда.