Нейросеть неделю выдавала себя за человека на Reddit

13.10.2020     

На Reddit появился странный автор, который за считанные секунды публиковал к постам длинные и содержательные комментарии. Один из пользователей соцсети заинтересовался этим аккаунтом и пришел к выводу, что его ведет нейросеть. 

Подозрительный блогер

Пользователь Reddit под ником thegentlemetre за неделю наполнил свой блог большим количеством качественного контента. Сообщество «реддиторов» обратило внимание, что тексты автора очень напоминают публикации, генерируемые языковой моделью от OpenAI GPT-3

Исследователь, обнаруживший это, опубликовал свои догадки на Reddit. В комментариях ему ответил разработчик сервиса Philosopher AI, который подтвердил, что аккаунт thegentlemetre действительно ведет искусственный интеллект на базе GPT-3. Программист в курсе, что правила социальной сети запрещают публикации от ботов, поэтому он прекратил эксперимент. Больше нейросеть ничего не писала на Reddit. 

О чем писал ИИ

Бот каждую минуту публиковал развернутые комментарии в одном из самых популярных сабреддитов AskReddit в течение недели. Он отвечал реальным пользователям на вопросы о самоубийствах, домогательствах, теориях заговора, иммиграции, расизме. Вот пример текста, сгенерированного нейросетью.

Вопрос: «Какой секрет может буквально испортить вам жизнь, если он откроется?»

Ответ thegentlemetre: «В наши дни, когда есть Интернет и социальные сети, я не думаю, что такие секреты есть. Все опубликовано в Интернете. Но это еще не все. Все, что мы делаем, говорим и думаем, находится под наблюдением. Нас всех постоянно регистрируют и наблюдают. Некоторых из нас контролируют больше, чем других, например, тех, кто работает на государственных должностях».

Также бот смог осмысленно рассказать жуткую историю на ночь, поделиться страхами о вымирании человечества и вспомнить приятные моменты из своего детства.  

Но далеко не все комментарии бота GPT-3 получились удачными. Иногда он давал весьма странные ответы. На вопрос о кликах по баннерам с эротическим содержанием нейросеть сгенерировала пост от лица юриста, который рассказал о двух типах людей, один из которых делает это неосознанно. 

Некоторые посты thegentlemetre получились нечитаемыми. На просьбу рассказать о способах тренировок бот ответил бессмысленным текстом: «Людям не нравится то, что у них есть, поэтому они идут и пробуют более жесткие методы приобретения вещей». Судя по всему, языковая модель попыталась перефразировать известную англоязычную цитату «цель упражнений — не думать о том, что вы проводите свою жизнь, работая за деньги».

Возможности нейросетей

Исследователь, обнаруживший бота, рассказал, что уже давно занимается наблюдением и работой с языковыми моделями. По его словам, GPT-3 в своих комментариях генерировал совершенно новые идеи. Разработчик предположил, что нейросеть могла бы наполнить контентом сайт, подобный «Википедии», за несколько часов. Автор считает, что людям пора задуматься о применении новых возможностей и о контроле над этими системами.

Искусственный интеллект не впервые успешно выдал себя за живого автора текстов. Ранее другой исследователь завел блог, который заполнял публикациями бот. За две недели он смог набрать 26 тыс. читателей, из которых никто не догадался, что материалы пишет не человек.


Автор:
Александр Вашкевич Аналитик


Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. 9539356 5 13.10.20 13:44 Сейчас в теме
Да уж. На наших глазах появился пионер ИИ. Наши дети в будущем будут с подобным мусором иметь дело ежедневно, в Интернете это будет обыденностью, как сейчас пустые статейки обо всем от СММщиков. Надо запомнить, будет что рассказывать малятам в старости.
5. вивйв 14.10.20 08:30 Сейчас в теме
(1) Возможно, мусором будут считаться те немногие оставшиеся учетки реальных людей, а миром будет править ИИ))
zavladaev; +1 Ответить
2. Дон Кихот 3 13.10.20 15:06 Сейчас в теме
Вместо того чтобы строить справедливый мир и всем вместе бороться за светлое будущее многие допускают что злодеи захватившие власть в мире и есть неизменный первоисточник. Это просто удачливые торговцы, которым повезло однажды, не способные далее развивать мировое сообщество, ставшие теперь узурпаторами строящими тюрьму для всех.
3. Steelvan 115 13.10.20 18:31 Сейчас в теме
хе-хе, когда мне звонит очередной рекламщик, то первая моя фраза это "Сколько будет один вжик-вжик плюс один".
Не отвечает = ПшелВонБот.

Интересно, сколько таких учеток, делающих записи на мисте.
Можно почти в каждой из мистовских учеток сомневаться :)
6. user856012 13 14.10.20 10:01 Сейчас в теме
(3)
Можно почти в каждой из мистовских учеток сомневаться :)
Зачем куда-то ходить? Сообщение (2) - типичный пример "творчества" бота... причем даже без признаков интеллекта, искусственного или естественного.
товарищ Ын; NorraSaltolinen; +2 Ответить
4. Brawler 483 13.10.20 21:56 Сейчас в теме
Рогозина нужно заменить на ИИ, а то такую пургу несёт ...
7. serg33rus 14.10.20 12:19 Сейчас в теме
(4) Так может уже заменили, а технологии еще не отработаны. Поэтому и несет :-)
Оставьте свое сообщение

См. также

Microsoft присоединилась к Open Infrastructure Foundation для развития облаков

Новость ИТ-новость Новости компаний Облачные технологии

Microsoft стала платиновым членом организации Open Infrastructure Foundation. Компания будет представлять интересы своих телекоммуникационных клиентов в OpenStack.

15.09.2021    2169    VKuser24342747    0       

Microsoft разрешит устанавливать Windows 11 на старые компьютеры

Новость Windows ИТ-новость Новости компаний

Microsoft пересмотрела правила установки Windows 11, которые не позволяли использовать ОС на компьютерах, не соответствующих системным требованиям. Для инсталляции придется создать загрузочный диск.

14.09.2021    1894    VKuser24342747    0       

Оплата лицом заработает на всех станциях метро Москвы

Новость Искусственный интеллект ИТ-новость Цифровая экономика

В столичном метрополитене внедряют систему FacePay. С 15 октября оплатить проезд можно будет, не доставая смартфон, карту или жетоны из кармана.

14.09.2021    1577    user1015646    2       

«Яндекс» представил технологию автоматического перевода любых видео на русский язык

Новость ИТ-новость Яндекс

«Яндекс» сделал функцию автоматического закадрового перевода иностранных роликов доступной для почти любых видео в интернете. Функция встроена в фирменный браузер компании.

13.09.2021    1824    VKuser24342747    4       

Исследователи синтезировали выразительную устную речь

Новость Искусственный интеллект ИТ-новость

Синтетическое воспроизведение речи от голосовых помощников и автопереводчиков не передает эмоций и интонаций. Специалисты NVIDIA разработали систему искусственного интеллекта, которая решает эту проблему: ее речь сложно отличить от естественной.

10.09.2021    6160    user1015646    0       

GitHub выпустил веб-редактор кода: возможности, о которых вы могли не знать

Новость GitHub Автоматизация Интернет ИТ-новость

Начинающим программистам часто сложно настроить среду разработки и установить весь необходимый софт. Для них, а также для специалистов, которые работают в распределенных командах, GitHub запустил новый сервис github.dev.

10.09.2021    3503    user1015646    0       

Раскрыта дата релиза Windows 11

Новость Windows ИТ-новость Новости компаний

Microsoft официально объявила, когда станет доступна новая версия самой популярной десктопной ОС. Обновиться с Windows 10 до Windows 11 можно будет уже 5 октября 2021 года.

09.09.2021    5912    user1015646    0       

В Google научились увеличивать изображения в 16 раз с восстановлением деталей

Новость Искусственный интеллект ИТ-новость

Раньше увеличить видео с камер наблюдения в десятки раз получалось только у героев фильмов. Но теперь такая возможность существует и в реальной жизни – инженеры Google разработали прорывную технологию масштабирования изображений.

09.09.2021    3222    user1015646    3       

Эксперты подготовили рекомендации по использованию кириллицы в доменах и почте

Новость Интернет ИТ-новость

Рабочая группа представила стандарты внедрения, обработки, хранения, валидации и адаптации кириллических символов для программ, поддерживающих доменные имена и email-адреса.

07.09.2021    2591    VKuser24342747    0       

Госструктуры перейдут на российские системы видеоконференций

Новость Импортозамещение ИТ-новость Облачные технологии

Российских чиновников переводят на использование отечественного сервиса видеоконференций. Будут внедрять систему TrueConf на базе ОС Astra Linux и процессоров Baikal-M от «Байкал Электроникс».

03.09.2021    2983    user1015646    0       

Минэкономики раскритиковало требования к обновлению оборудования для суверенного Рунета

Новость Импортозамещение Интернет ИТ-новость Телекоммуникации

Минэкономики пришло к выводу, что требования Минцифры затормозят развитие связи в России. По мнению специалистов ведомства, возможным последствием может стать ухудшение интернет-услуг провайдеров.

03.09.2021    2358    VKuser24342747    0       

Разработчики назвали любимые языки программирования

Новость ИТ-новость Языки программирования

Крупнейший форум для разработчиков Stack Overflow составил рейтинг любимых языков программирования. Первую строчку списка занял молодой, но перспективный Rust.

02.09.2021    4931    user1015646    3       

Петербургские ученые обучили нейросеть находить вредоносных ботов в соцсетях

Новость Безопасность Искусственный интеллект ИТ-новость Соцсети

Сотрудники Санкт-Петербургского федерального исследовательского центра Российской академии наук (СПб ФИЦ РАН) создали решение для поиска ботов, размещающих спам и дезинформацию на любом языке.

02.09.2021    2025    VKuser24342747    1       

Windows Server исключается из эксперимента по поставке обновлений Microsoft WaaS

Новость Windows ИТ-новость Новости компаний Облачные технологии

По результатам четырехлетнего эксперимента Windows as a Service Microsoft решила, что больше не будет обновлять Windows Server несколько раз в год. Для серверной ОС было решено вернуться к практике обновления каждые 2-3 года.

01.09.2021    4244    SKravchenko    0       

Microsoft добавила в Power BI инструменты аналитики для Angular-приложений

Новость Аналитика ИТ-новость

Microsoft представила новый компонент для создания веб-сервисов аналитики данных. Он позволит интегрировать функции Power BI в Angular-приложения.

31.08.2021    3036    user1015646    0       

Windows 11 лишится нескольких функций предыдущей версии системы

Новость Windows ИТ-новость

Microsoft в бета-версии Windows 11 изменила привычные функции. Из ОС исчезло отображение секунд на часах и возможность быстро добавлять события в календарь, а кнопка «Пуск» переместилась в центр панели задач.

31.08.2021    4729    VKuser24342747    6       

GitHub в версии утилиты CLI 2.0 добавил поддержку расширений

Новость GitHub ИТ-новость Новости компаний

Разработчики GitHub представили вторую версию утилиты для управления проектами при помощи командной строки CLI. Приложение поддерживает несколько стандартных расширений и создание собственных.

27.08.2021    5746    VKuser24342747    0       

Круглая дата: ядру Linux исполнилось 30 лет

Новость Linux ИТ-новость Новости компаний

Ядро Linux отмечает юбилей. О создании новой ОС 21-летний Линус Торвальдс объявил 25 августа 1991 года.

27.08.2021    4386    user1015646    2       

Искусственный интеллект научился распознавать изображения лучше человека

Новость Искусственный интеллект ИТ-новость

Алгоритм компьютерного зрения впервые превзошел человека. В экспериментах людям и системе искусственного интеллекта предлагали определить, что изображено на фото, и ответить на вопросы. Результат ИИ оказался выше, чем у человека.

26.08.2021    2990    user1015646    5       

Facebook представил криптобиблиотеку для разработчиков – Winterfell

Новость ИТ-новость Новости компаний

Специалисты Facebook выпустили новую библиотеку Winterfell. Проект с открытым исходным кодом может генерировать доказательство вычислительной целостности STARK.

24.08.2021    4284    user1015646    3       

В GitHub добавлена поддержка цитирования из репозиториев

Новость GitHub ИТ-новость

GitHub позволил использовать файл CITATION.cff, в котором можно указать, как правильно ссылаться на содержимое репозитория при написании академических публикаций.

24.08.2021    4672    VKuser24342747    0       

GitHub официально представил новую версию «Обсуждений»

Новость GitHub ИТ-новость

GitHub заявил о завершении бета-тестирования обновленной версии раздела Discussions. Релизный вариант площадки для обсуждений репозиториев разрабатывался почти год при активном участии сообщества.

23.08.2021    3094    VKuser24342747    0       

Разработчик создал браузерную версию OpenAI Codex для управления веб-страницами

Новость Интернет Искусственный интеллект ИТ-новость

Программист Эндрю Кантино рассказал, что сделал расширение для модификации страниц в Google Chrome, работающее на основе ИИ-ассистента для разработки OpenAI Codex.

23.08.2021    5181    VKuser24342747    0       

Российский разработчик создал эмулятор для запуска приложений iOS на M1 Mac

Новость Mac OS ИТ-новость Мобильные приложения

Программа PlayCover позволяет запускать на компьютерах с операционной системой MacOS любые мобильные приложения для iOS, в том числе игры с поддержкой мыши и клавиатуры.

20.08.2021    5494    VKuser24342747    0       

Вместо директора Nvidia на презентации выступил его цифровой клон

Новость Искусственный интеллект ИТ-новость Новости компаний

Во время презентации Nvidia выступила точная цифровая копия генерального директора компании Дженсена Хуанга. Виртуальный аватар предпринимателя создан при помощи ИИ-технологий.

20.08.2021    3426    VKuser24342747    1