Фото: РБК
ИИ самостоятельно серфит интернет и пишет статьи со ссылками на первоисточники, но может стать оружием в онлайн-войнах.
Компания OpenAI представила регрессивную предобученную модель нейросети WebGPT, которая умеет работать с текстовым браузером. Новый ИИ находит в интернете ответы на заданные ему вопросы при помощи интерфейса API поисковой системы Bing, а на основе собранной информации пишет короткие справочные статьи (их длина ограничена одним абзацем), похожие на тексты, созданные людьми.
Отмчается, что разработчики обучили алгоритм писать понятные и «правдивые» тексты с помощью сообщений со справочного подсайта Explain Like I’m Five («Объясни как будто мне пять лет» с английского) в соцсети Reddit. Ответы, которые пишет WebGPT оказались лучше написанных людьми в 56% случаев.
И всё же главная «фича» WebGPT — умение отправлять запросы в поисковую систему Bing и собирать информацию. Исследователи создали текстовый браузер, чтобы алгоритм мог просматривать сниппеты (заголовки и фрагменты текстов с веб-сайтов), пролистывать выдачу и при необходимости, если ИИ решит ознакомиться с полными текстами, переходить на другие сайты.
WebGPT ищет информацию до тех пор, пока не решит, что данных достаточно для полного и точного ответа, или пока не исчерпает лимит на количество запросов к поисковой машине.
Слева — окно текстового браузера, справа — текст, который «видит» нейросеть OpenAI.
Модель WebGPT пишет текст, отвечающий запросу пользователя, а затем добавляет в него ссылки на источники информации, как в статьях в рецензируемых научных журналах, энциклопедиях Britannica и «Википедия».
Кроме того, исследователи не исключают, что WebGPT в отдельных случаях может представлять опасность. Например, нейросеть можно переобучить и настроить для редактирования «Википедии»: она умеет писать достаточно убедительные тексты, чтобы стать оружием в войнах правок свободной энциклопедии или в кибервойнах.