Черное пятно в лаборатории, две игровые видеокарты и спор миллиардеров, приведший к революции ИИ
От спора на дне рождения Илона Маска до современных моделей ИИ: история глубокого обучения — это путь от лабораторных экспериментов с солями серебра до вычислительных мощностей, изменивших мир.
В один из дней рождения Илона Маска разгорелся спор, который сегодня звучит почти пророчески. Напротив Маска сидел Ларри Пейдж, один из основателей Google. Маск предупреждал, что мощный искусственный интеллект может поставить под угрозу человечество. Пейдж видел ситуацию иначе: если однажды появятся машины, более умные, чем люди, они станут следующим этапом эволюции интеллекта. Люди — самые разумные существа на Земле; в будущем, полагал Пейдж, ими станут машины. Согласно биографии Маска, написанной Уолтером Айзексоном, Маск пришел в ярость, и в ответ Пейдж назвал Маска «видовым шовинистом» (speciesist), то есть тем, кто отдает предпочтение человеческому виду перед другими формами жизни. Маск парировал: «Я, конечно, на стороне людей».
Спор не остался на вечеринке. Маск убедился в ходе разговора, что нельзя оставлять будущее интеллекта в руках одной компании, особенно если эта компания — Google. Этот спор привел к созданию OpenAI. В декабре 2015 года Илон Маск, Сэм Альтман, Илья Суцкевер и другие объявили об основании OpenAI как некоммерческой исследовательской лаборатории. Основатели и спонсоры представили обязательства по финансированию в необычном объеме — 1 миллиард долларов. Первоначальная цель была столь же амбициозной, как и сама технология: разработать искусственный интеллект, который принесет пользу всему человечеству и не будет контролироваться отдельной корпорацией.
Но чтобы понять, как философский спор на дне рождения превратился в индустрию, сжигающую миллиарды долларов на чипах и центрах обработки данных, нужно вернуться на 140 лет назад, к черному пятну в итальянской лаборатории.
От нейронов к вычислениям
В 1873 году итальянский врач Камилло Гольджи разработал метод окрашивания на основе солей серебра, названный «черной реакцией». Он окрашивал нервные клетки, или нейроны. Метод обнажил тело нейрона и его отростки. Впервые можно было увидеть мозг как огромный лес. Испанский ученый Сантьяго Рамон-и-Кахаль усовершенствовал метод и пришел к революционному выводу: мозг действительно построен из леса нейронов, как считал Гольджи, но каждый нейрон — это отдельная единица, и они взаимодействуют между собой. В 1906 году они разделили Нобелевскую премию, несмотря на то, что придерживались противоположных интерпретаций.
Семьдесят лет спустя, в 1943 году, нейрофизиолог Уоррен Мак-Каллок и молодой математик Уолтер Питтс взяли биологический нейрон и превратили его в математическую модель. Они показали, что можно представить нейрон как простую вычислительную единицу, и что при соединении множества таких единиц в сеть они способны выполнять логические операции. Первый искусственный нейрон не был чипом. Он родился на бумаге.
Путь к глубокому обучению
В 1958 году Фрэнк Розенблатт представил миру «перцептрон»: машину, которая могла учиться на примерах путем изменения силы соединений. В ранней демонстрации собрали компьютер IBM 704, содержащий несколько перцептронов. Машина весила более 5 тонн. Розенблатт объявил, что это «первая машина, способная учиться». Однако в 1969 году Марвин Минский и другие раскрыли большой пробел: однослойный перцептрон не смог выучить даже XOR, базовую логическую операцию. Хайп превратился в смущение, и финансирование исследований начало исчезать.
В 1986 году Джеффри Хинтон и его коллеги представили практический способ решения проблемы: обратное распространение ошибки (backpropagation). Метод вычисляет, как распределить ответственность за ошибку между различными соединениями в сети и обновить каждое в соответствии с его вкладом. В 1989 году Ян Лекун и его коллеги из Bell Labs использовали backpropagation для обучения сети, которая распознавала рукописные цифры, используя метод «свертки». Лекун назвал улучшенную сеть LeNet. К концу 90-х потомки LeNet уже читали миллионы номеров банковских счетов с чеков.
Эра GPU и трансформеров
В 2006 году NVIDIA представила CUDA, которая позволила разработчикам использовать GPU для общих вычислений. В 2012 году Алекс Крижевский, Илья Суцкевер и Хинтон обучили глубокую сеть на ImageNet, разделив ее между двумя игровыми картами GeForce GTX 580. AlexNet завершила мировой конкурс ImageNet с ошибкой 15,3% по сравнению с 26,2% у занявшего второе место. Это было объявление новой эры.
В 2017 году восемь исследователей из Google опубликовали статью «Attention Is All You Need». В статье родилась идея Transformer для задачи перевода. В его основе лежит механизм внимания (attention), который позволяет каждому слову «смотреть» на остальные слова и решать, какие из них важны для его понимания. В 2020 году OpenAI представила GPT-3, модель со 175 миллиардами параметров. 30 ноября 2022 года OpenAI запустила ChatGPT, и технология вышла из лаборатории в жизнь каждого из нас.
Горький урок и будущее
В 2019 году Рич Саттон опубликовал эссе «Горький урок», постулируя, что общие методы, использующие больше вычислений и данных, обходят системы, где эксперты вручную кодировали знания. В 2020 году OpenAI дала этому формулу: производительность моделей растет предсказуемым образом при увеличении параметров, данных и вычислений.
Ян Лекун, один из пионеров глубоких сетей, критикует веру в то, что LLM превзойдут человеческий интеллект. Его ставка — «мировые модели», которые будут учиться на видео и взаимодействии. В марте 2026 года AMI Labs, новая компания Лекуна, привлекла 1 миллиард долларов. Спор о том, достаточно ли текста для AGI или нужен опыт физического мира, продолжается. Вероятно, LLM станут лишь слоем в гораздо большей и странной машине будущего.
