Неделя искусственного интеллекта: генеративный искусственный интеллект рассылает спам в сети

Идти в ногу с такой быстро развивающейся отраслью, как искусственный интеллект, — непростая задача. Итак, пока ИИ не сможет сделать это за вас, вот вам полезный обзор последних историй из мира машинного обучения, а также заметных исследований и экспериментов, которые мы не освещали отдельно.

На этой неделе SpeedyBrand, компания, использующая генеративный искусственный интеллект для создания SEO-оптимизированного контента, вышла из тени при поддержке Y Combinator. Он пока не привлек большого финансирования (2,5 миллиона долларов), а его клиентская база относительно невелика (около 50 брендов). Но это заставило меня задуматься о том, как генеративный искусственный интеллект начинает менять структуру Интернета.

Как написал в недавней статье Джеймс Винсент из The Verge, генеративные модели искусственного интеллекта удешевляют и упрощают создание контента более низкого качества. NewsGuard, компания, предоставляющая инструменты для проверки источников новостей, обнаружила сотни поддерживаемых рекламой сайтов с общими названиями, содержащих дезинформацию, созданную с помощью генеративного искусственного интеллекта.

Это создает проблемы для рекламодателей. Многие из сайтов, отмеченных NewsGuard, похоже, созданы исключительно для злоупотребления программной рекламой или автоматизированными системами размещения рекламы на страницах. В своем отчете NewsGuard обнаружил около 400 рекламных объявлений 141 крупного бренда, которые появлялись на 55 сайтах нежелательных новостей.

Беспокоиться должны не только рекламодатели. Как отмечает Кайл Барр из Gizmodo, достаточно одной статьи, созданной ИИ, чтобы привлечь огромное количество пользователей. И даже если каждая статья, созданная ИИ, приносит всего несколько долларов, это меньше, чем стоимость создания текста в первую очередь — и потенциальные деньги от рекламы не отправляются на законные сайты.

Так в чем же решение? Есть ли такой? Это пара вопросов, которые все чаще не дают мне спать по ночам. Барр предполагает, что поисковые системы и рекламные платформы должны более жестко контролировать ситуацию и наказывать злоумышленников, использующих генеративный ИИ. Но, учитывая, как быстро развивается эта область, а также бесконечно масштабируемую природу генеративного ИИ, я не уверен, что они смогут идти в ногу со временем.

Конечно, спам-контент – не новое явление, и волны спама бывали и раньше. Сеть адаптировалась. Что на этот раз отличается, так это то, что барьер для входа чрезвычайно низок — как с точки зрения затрат, так и времени, которое необходимо инвестировать.

Винсент говорит оптимистично, подразумевая, что, если сеть в конечном итоге будет переполнена ИИ-мусором, это может стимулировать развитие более финансируемых платформ. Я не совсем уверен. Однако не вызывает сомнений то, что мы находимся на переломном моменте и что решения, принимаемые сейчас в отношении генеративного ИИ и его результатов, будут влиять на функционирование Интернета в течение некоторого времени.

Вот еще примечательные истории об искусственном интеллекте за последние несколько дней:

OpenAI официально запускает GPT-4: OpenAI на этой неделе объявила о доступности GPT-4, своей последней модели генерации текста, через платный API. GPT-4 может генерировать текст (включая код) и принимать изображения и текстовые входные данные — улучшение по сравнению с GPT-3.5, его предшественником, который принимал только текст — и работает на «человеческом уровне» по различным профессиональным и академическим критериям. Но, как мы отмечали в нашем предыдущем обзоре, он не идеален. (Тем временем, как сообщается, внедрение ChatGPT снижается, но посмотрим.)

Взять под контроль «сверхразумный» ИИ:Что касается других новостей OpenAI, компания формирует новую команду под руководством Ильи Суцкевера, ее главного ученого и одного из соучредителей OpenAI, для разработки способов управления и контроля «сверхинтеллектуальных» систем искусственного интеллекта.

Закон о борьбе с предвзятостью для Нью-Йорка:После нескольких месяцев задержек город Нью-Йорк на этой неделе начал применять закон, который требует от работодателей, использующих алгоритмы для найма, найма или продвижения сотрудников, представлять эти алгоритмы на независимый аудит и публиковать результаты.

Valve молчаливо дает зеленый свет играм, созданным с помощью искусственного интеллекта: Valve выступила с редким заявлением после того, как заявила, что отказывается от игр с активами, созданными искусственным интеллектом, из своего игрового магазина Steam. Известный своей скрытностью разработчик заявил, что его политика развивается, а не выступает против ИИ.