Думай как человек

30 ноября компания OpenAI отметила год с момента запуска первой версии ChatGPT. Отметила странным увольнением (и столь же быстрым восстановлением в должности) исполнительного директора Сэма Альтмана. Совет директоров сначала отправил его «за борт» — быстро и с невнятным обоснованием, что тот якобы «не всегда был откровенен в своем взаимодействии с советом, что препятствовало выполнению его обязанностей».

В качестве причины, скрытой за фразой «не всегда был откровенен», называли секретную работу Альтмана над так называемым универсальным искусственным интеллектом (AGI), который может представлять потенциальную опасность для человечества. Правда, эта конспирологическая версия пока подтверждения не получила.

Что же испугало совет директоров компании?

Строго говоря, искусственная нейронная сеть, или нейросеть — это воплощенная в программно-аппаратный комплекс математическая модель, созданная по принципу организации и функционирования сетей нервных клеток живого организма. Первые нейросети появились еще в 1950-х годах и прошли долгий путь развития от перцептонов -математической или компьютерной модели восприятия информации мозгом, до современных систем на основе технологии «языковой модели» (language models), — угадывания, какое следующее слово должно идти за уже имеющимся словом или предложением. Практически все, кто имеет мобильный телефон и набирает на нем текст для сообщений, сталкиваются с подсказчиком T9, предлагающим следующие слова в предложении. ChatGPT — это и есть Т9 из вашего телефона, только гораздо более совершенный.

Нейросеть на основе «языковой модели» особым образом предсказывает следующее слово в зависимости от набора предыдущих слов. Используя ChatGPT, можно заметить, что текст формируется быстро, из абзацев различной длины. Это происходит потому, что с каждым новым словом нейронная сеть анализирует весь написанный текст вместе с недавно добавленными словами, чтобы сгенерировать следующее слово, учитывая контекст. Таким образом, создается связный и последовательный текст.

Фото: Freepik

Чем опасен AGI

Искусственный общий интеллект (AGI, Artificial General Intelligence) представляет собой поколение нейросети, способное выполнять любую интеллектуальную функцию, доступную человеку.

«Сильный ИИ», а если говорить правильно, сильная нейросеть, перевернет мир. Потому что будет обладать способностью самостоятельно справляться с математическими задачами старших классов, а возможно, решит все научные загадки тысячелетия«, — объясняет генеральный директор венчурного фонда Orbita, глава представительства Singularity University в Москве Евгений Кузнецов.

Разберем его потенциальную опасность по пунктам.

В-первых, он может отличаться непредсказуемостью поведения. AGI, обладающий способностью к самообучению и адаптации, способен развиваться по собственному сценарию. В отличие от специализированных нейросетей, AGI может формировать собственные цели и способы их достижения, противоречащие первоначальным намерениям создателей. То есть организовать любимый фантастами «бунт машин».

«ИИ — порождение и создание человечества. Пока он обучается на наших знаниях и развивается во взаимодействии с человеком. Следом AGI начнет получать информацию самостоятельно и сам будет решать, какие следующие данные ему понадобятся», — говорит Евгений Кузнецов.

В-вторых, установить полный контроль над творением будет невозможно, это связано именно со способностью AGI к самостоятельному обучению.

В-третьих, неизбежны масштабные социальные вызовы, массовая безработица и как следствие глобальное экономическое неравенство. Artificial General Intelligence способен заменить врачей, водителей, пилотов, рабочих, всевозможных клерков и банковских служащих, работников торговых сетей и доставщиков, журналистов и многих других. Человечество пока еще уверено в своих силах. Билл Гейтс, к примеру, считает, что универсальный ИИ займется рутинной работой и угрозой не станет. Однако все громче слышны голоса тех, кто требует запретить неконтролируемое и быстрое развитие нейросетей.

В-четвертых, и это вызывает сегодня наибольшие опасения, AGI может быть использован в военных целях, что поднимает вопросы о новом виде вооружений в военных конфликтах. Кроме того, защита самого AGI от кибератак становится важна, учитывая его потенциальную способность к нанесению значительного ущерба. Если глупость или, что еще хуже, злые намерения возобладают, и нейросеть получит из рук человека власть над оружием, то опасность повторения в реальности сюжета «Терминатора» возрастет многократно.

И в-пятых, пусть это не прозвучит как фантастика, но теория технологической сингулярности предполагает, что появление AGI может привести к бесконтрольному ускорению технологического прогресса, а это угрожает непредсказуемыми и потенциально катастрофическими последствиями для человечества.

«Конечно, совсем не факт, что человечество исчезнет как вид, проигравший в конкурентной борьбе собственным творением. С одной стороны, моральные страдания AGI чужды, и вполне возможно, что он без раздумий уберет с дороги потенциальную угрозу его самостоятельному развитию. С другой, это уже совсем фантастический сценарий», — отмечает Евгений Кузнецов.

Внедрение нейросетей идет семимильными шагами, в том числе в России. Ибо польза от применения нейросетей очевидна, а опасения воспринимаются как конспирологические, и серьезного значения им не придают. Впрочем, появление реального AGI — это очень неблизкая перспектива. Глава Nvidia Дженсен Хуанг считает, что AGI с возможностями на уровне человеческого мозга может появиться не раньше, чем через пять-десять лет.