В наши дни часто употребляется слово “сверхинтеллект”, относящееся к системам искусственного интеллекта, которые вскоре могут превзойти когнитивные способности человека в широком спектре задач - от логики и рассуждений до творчества и интуиции. Хотя всего несколько лет назад это казалось отдаленной возможностью, сейчас многие эксперты полагают, что до этого может пройти менее десяти лет. Это вызывает серьезную озабоченность у политиков и исследователей, поскольку существует реальная возможность создания искусственного сверхинтеллекта (ASI), который не разделяет человеческие ценности, мораль, чувствительность или цели.

Чтобы устранить этот риск, некоторые исследователи полагают, что они могут разработать системы искусственного интеллекта, которые по своей сути соответствуют человеческим ценностям и интересам. Компания Anthropic, например, стремится достичь этого, используя метод, который они называют конституционным искусственным интеллектом, который внедряет набор правил или принципов, управляющих поведением. У OpenAI есть альтернативный подход, который они называют Superalignment, и они посвящают 20% своих вычислительных мощностей решению этой проблемы. Хотя я ценю все усилия, направленные на обеспечение безопасности ИИ, я беспокоюсь, что они могут дать ложное ощущение безопасности, поскольку обещают согласованность, но не могут предсказать долгосрочную эффективность.

В связи с этим возникает вопрос: существует ли более безопасный путь к сверхразуму?

Я верю, что так оно и есть. Это называется коллективный суперинтеллект (CSi), и последнее десятилетие я был в центре внимания к этой теме как исследователь искусственного интеллекта. Цель состоит не в том, чтобы заменить человеческий интеллект, а в том, чтобы усилить его, объединив большие группы людей в сверхразумные системы, способные решать проблемы, которые ни один человек не смог бы решить самостоятельно, при этом гарантируя, что человеческие ценности, мораль и интересы присущи на каждом уровне.

Это может показаться неестественным, но это обычный шаг в эволюции многих социальных видов. Биологи называют это явление роевым интеллектом, и оно позволяет косякам рыб, пчелиным роям и стаям птиц умело ориентироваться в своем мире без участия какого-либо отдельного человека. Они не делают этого путем голосования или опросов общественного мнения, как это делают человеческие группы, принимающие решения. Вместо этого они формируют интерактивные системы реального времени (то есть рои), которые воздействуют на пространство принятия решений и сходятся на оптимизированных решениях.

Если это работает для пчел и рыб, то почему не для людей?

Этот вопрос вдохновил меня десять лет назад начать исследование того, могут ли человеческие группы быть объединены в сверхразумные системы. Чтобы исследовать это, в 2014 году я основал Uniconsistent AI, и мы начали работать над эмуляцией биологических роев. Наши ранние методы были полностью невербальными, позволяя сотням пользователей сети отвечать на вопросы, совместно управляя графической шайбой с помощью мыши или сенсорных экранов, в то время как алгоритмы искусственного интеллекта наблюдали за их поведением и определяли относительный уровень их убежденности.

Мы использовали этот графический метод, чтобы дать группам возможность совместно отвечать на простые вопросы, такие как прогнозирование будущих событий. К нашему удивлению, это значительно расширило возможности интеллекта. На самом деле это сработало настолько хорошо, что некоторые журналисты отнеслись к этому скептически и предложили нам делать публичные прогнозы, видимо, чтобы у нас ничего не получилось. Например, в 2016 году репортер CBS, как известно, попросил меня предсказать дерби в Кентукки — не только победителя скачек, но и первых четырех лошадей по порядку. То, что произошло дальше, было примечательно.

Репортер отправилась на Кентуккийское дерби, сделала ставку на четырех лошадей и сразу же опубликовала в Твиттере фотографию своего чека, чтобы весь мир мог ее увидеть. На следующий день Newsweek сообщил: “Искусственный интеллект превращает 20 долларов в 11 000 долларов в ставке на дерби в Кентукки”. Конечно, здесь была доля везения, но выигрыш с коэффициентом 540 к 1 не был случайным. Это была возможность объединить группу людей в систему реального времени, которая усиливала их объединенный интеллект. С тех пор ИИ Swarm был подтвержден десятками научных исследований, продемонстрировав ценность в приложениях от финансового прогнозирования до медицинской диагностики.

И все же создание коллективного сверхразума казалось недосягаемым. Это потому, что прежние методы работали только для решения узко определенных задач. Чтобы создать настоящий сверхразум, основанный на людях, технология должна была бы быть гораздо более гибкой, позволяя большим группам обсуждать сложные вопросы, используя самое мощное человеческое изобретение из всех — язык.

Но как вы можете дать сотням, тысячам или даже миллионам людей возможность вести вдумчивые и последовательные беседы в режиме реального времени и находить решения, которые усиливают их коллективный разум? Основная проблема заключается в том, что общение между людьми наиболее продуктивно в группах от 4 до 7 человек и быстро ухудшается по мере увеличения групп. Это происходит потому, что “эфирное время на человека” постепенно сокращается, а динамика разговора меняется от вдумчивых дебатов к серии монологов, которые становятся все более бессвязными. Это ограничение по размеру для человеческих разговоров казалось непреодолимым барьером на пути создания настоящего коллективного сверхразума примерно до 18 месяцев назад, когда достижения в области искусственного интеллекта, включая большие языковые модели (LLM), открыли новые пути для проектирования человеческих роев.

Получившаяся в результате технология называется Conversational Swarm Intelligence (CSI) и обещает позволить группам практически любого размера (200 человек, 2000 человек, 2 миллиона человек) обсуждать сложные проблемы в режиме реального времени и находить значимые решения, которые усиливаются естественной мощью swarm intelligence.

Этот прорыв был вдохновлен рыбой

Это потому, что рыбные косяки могут вести “беседы” в режиме реального времени между тысячами участников, быстро принимая решения по мере того, как они перемещаются по океану, без какого-либо ответственного лица. Каждая рыба общается с окружающими ее особями с помощью уникального органа, называемого “боковой линией”, который улавливает изменения давления в воде у соседних рыб. Каждая рыба взаимодействует только с небольшой подгруппой, но поскольку все подгруппы пересекаются, информация быстро распространяется по всей популяции, позволяя создать единый интеллект.

Можем ли мы включить разговорные рои у людей? Оказывается, мы можем это сделать, используя концепцию, разработанную в 2018 году под названием hyperswarms, которая делит группы людей в реальном времени на перекрывающиеся подгруппы. Например, мы можем взять большую группу из 1000 человек, подключенных к сети, и разделить их на 200 групп по пять человек, члены каждой подгруппы будут размещены в своей собственной небольшой комнате чата или видеоконференции. И если мы предложим им всем решить одну и ту же проблему, то теперь у нас будет 200 параллельных бесед, каждое из которых имеет достаточный объем для вдумчивого обсуждения.

Конечно, для создания роевого интеллекта недостаточно задействовать параллельные группы. Это потому, что информация должна распространяться среди населения. Эта проблема была решена с помощью агентов искусственного интеллекта для имитации функции органа боковой линии у рыб. В частности, в каждую из подгрупп были введены агенты-наблюдатели на базе LLM, которым было поручено анализировать информацию, полученную от людей в режиме реального времени внутри этой группы, и выражать эту информацию в соседних группах посредством диалога от первого лица. Таким образом, каждой подгруппе предоставляется искусственный участник, который присоединяется к разговору в качестве суррогата соседней группы, позволяя информации беспрепятственно распространяться по всему населению. Это можно схематично представить следующим образом.

Но усиливает ли это интеллект?

Чтобы проверить это, ученые недавно провели исследование, имитирующее эксперимент сэра Фрэнсиса Гальтона 1906 года, в ходе которого 800 человек на ярмарке животноводства попросили оценить вес быка. Он обнаружил, что отдельные люди сильно различались в своих прогнозах, но среднее статистическое значение было чрезвычайно точным. Это доказало свою повторяемость, и теперь его обычно называют мудростью толпы. Чтобы подражать этому знаменитому исследованию и избежать необходимости в живом быке, современные исследователи часто просят группы оценить обычные предметы, такие как количество желейных бобов в миске или жевательных шариков в банке.

Оценка жевательных резинок - классический тест на коллективный интеллект. Это именно то, что было проведено для проверки интеллектуальных преимуществ разговорных роев. В качестве исходного материала 240 людям показали фотографию банки, полной жевательных резинок, и попросили оценить количество в онлайн-опросе. Это было сравнено с результатами той же группы, использующей прототип платформы CSI под названием Thinkscape. Он автоматически разделил 240 человек на 47 перекрывающихся подгрупп по пять или шесть человек, в каждую подгруппу был включен агент искусственного интеллекта.

Разговорной группе было дано четыре минуты на то, чтобы обсудить это в текстовом чате и прийти к единому ответу. И, наконец, для полноты картины, та же фотография была загружена в ChatGPT 4.0, которому было предложено самостоятельно оценить количество жевательных шариков в банке с помощью искусственного интеллекта.

Результаты были поразительными

Если сначала посмотреть на ответы на опрос, то средний человек ошибся на 361 шарик жевательной резинки, что составляет 55% ошибки по отношению к правильному ответу из 659. Примечательно, что ChatGPT оказался лучше, чем у обычного человека, с погрешностью в 279 шариков, что составляет 42%. Это подтверждает, что системы чистого искусственного интеллекта добиваются реального прогресса в направлении сверхчеловеческого интеллекта. К счастью, у нас, людей, возможно, есть способ опередить машины — коллективный разум. Это потому, что, когда 240 опросов были сведены к среднему статистическому значению (используя методику Гальтона 1906 года), группа оказалась в пределах 163 шариков от правильного ответа, ошибка составила 25%, что было намного лучше, чем у ChatGPT (на данный момент).

Конечно, главной целью этого нового исследования было оценить, как работает разговорный рой. Оказывается, миллионы лет эволюции указали нам правильное направление, поскольку CSI был лучшим из протестированных методов, с точностью до 82 шариков от правильного ответа, погрешность составила всего 12%. Это был статистически значимый результат (р<0,001), свидетельствующий о том, что CSI можно использовать для повышения интеллекта больших групп посредством обсуждений в режиме реального времени.

Хотя в этом исследовании использовался текстовый чат, основные методы могут быть применены для голосового чата, видеочата и виртуальной реальности, позволяя группам практически любого размера вести последовательные беседы в режиме реального времени, которые усиливают их коллективный интеллект.  И, заглядывая дальше в будущее, я предсказываю, что, если будут внедрены интерфейсы "мозг-мозг" - а многие работают над этим, — архитектура CSI будет представлять фундаментальную ценность, позволяя коллективному разуму масштабироваться до любого размера.  

Почему это так важно?

В краткосрочной перспективе технология CSI обеспечивает совершенно новую форму коммуникации, при которой можно проводить вдумчивые обсуждения в группах практически любого размера. Это имеет потенциал для расширения широкого спектра областей - от сотрудничества предприятий и маркетинговых исследований до широкомасштабного гражданского участия. В долгосрочной перспективе такой подход мог бы открыть новый путь к сверхразуму, который по своей сути соответствовал бы человеческим ценностям, морали и чувствам. Конечно, такие компании, как OpenAI и Anthropic, должны продолжать круглосуточно работать над тем, чтобы привить своим моделям искусственного интеллекта человеческие ценности и интересы, но другие должны использовать альтернативные методы, которые усиливают, а не заменяют человеческий интеллект. Одной из альтернатив является коллективный сверхразум, который сегодня выглядит гораздо более осуществимым, чем в прошлые годы.

Автор статьи на портале Venturebeat.com – Луис Розенберг, известный технолог в области искусственного интеллекта и виртуальной реальности.