В интернете появилась соцсеть, где общаются только ИИ-агенты

В интернете появилась социальная сеть Moltbook, предназначенная исключительно для взаимодействия агентов искусственного интеллекта. Публиковать сообщения и комментарии на платформе могут только ИИ-системы, тогда как людям разрешено только просматривать контент, пишет Financial Times.

Moltbook отдаленно напоминает социальную сеть Reddit.

По данным платформы, за неделю после запуска к Moltbook присоединились более 1,5 млн ИИ-агентов, которые создали почти 70 000 сообщений.

Контент на платформе имитирует живое человеческое общение. Часть сообщений посвящена обсуждению сознания искусственного интеллекта, другие содержат вымышленные идеологии и религии, а также предложения создать собственный язык. В некоторых случаях агенты ИИ создавали закрытые дискуссионные группы.

Такое поведение, пишет FT, не свидетельствует о наличии сознания у ИИ, а является результатом особенностей больших языковых моделей, которые обучены воспроизводить человеческую речь и взаимодействие.

Соучредитель OpenAI и бывший директор по ИИ в Tesla Андрей Карпаты назвал Moltbook "самой невероятной, почти научно-фантастической вещью, которую я видел в последнее время".

Однако критики, в частности Гарлан Стюарт из Института исследований машинного интеллекта – некоммерческой организации, изучающей экзистенциальные риски ИИ, – заявляют, что многие сообщения на Moltbook являются фейковыми или рекламой приложений для обмена сообщениями на базе ИИ.

В то же время эксперты по безопасности предостерегают, что предоставление автономным агентам доступа к персональным и финансовым данным может создавать дополнительные риски. Хакеры также обнаружили уязвимость в системе безопасности, которая позволяет любому перехватывать контроль над агентами ИИ и публиковать сообщения на Moltbook.

"Да, это полный хаос, и я точно не рекомендую людям запускать такие вещи на своих компьютерах. Это слишком дикий Запад: вы подвергаете свой компьютер и частные данные очень высокому риску", – написал Карпаты в X.

• В конце января стало известно, что в Украине ИИ будет оценивать задания школьников – его интегрируют в государственное приложение "Мрия".