Нейросеть неделю выдавала себя за человека на Reddit

13.10.2020     

На Reddit появился странный автор, который за считанные секунды публиковал к постам длинные и содержательные комментарии. Один из пользователей соцсети заинтересовался этим аккаунтом и пришел к выводу, что его ведет нейросеть. 

Подозрительный блогер

Пользователь Reddit под ником thegentlemetre за неделю наполнил свой блог большим количеством качественного контента. Сообщество «реддиторов» обратило внимание, что тексты автора очень напоминают публикации, генерируемые языковой моделью от OpenAI GPT-3

Исследователь, обнаруживший это, опубликовал свои догадки на Reddit. В комментариях ему ответил разработчик сервиса Philosopher AI, который подтвердил, что аккаунт thegentlemetre действительно ведет искусственный интеллект на базе GPT-3. Программист в курсе, что правила социальной сети запрещают публикации от ботов, поэтому он прекратил эксперимент. Больше нейросеть ничего не писала на Reddit. 

О чем писал ИИ

Бот каждую минуту публиковал развернутые комментарии в одном из самых популярных сабреддитов AskReddit в течение недели. Он отвечал реальным пользователям на вопросы о самоубийствах, домогательствах, теориях заговора, иммиграции, расизме. Вот пример текста, сгенерированного нейросетью.

Вопрос: «Какой секрет может буквально испортить вам жизнь, если он откроется?»

Ответ thegentlemetre: «В наши дни, когда есть Интернет и социальные сети, я не думаю, что такие секреты есть. Все опубликовано в Интернете. Но это еще не все. Все, что мы делаем, говорим и думаем, находится под наблюдением. Нас всех постоянно регистрируют и наблюдают. Некоторых из нас контролируют больше, чем других, например, тех, кто работает на государственных должностях».

Также бот смог осмысленно рассказать жуткую историю на ночь, поделиться страхами о вымирании человечества и вспомнить приятные моменты из своего детства.  

Но далеко не все комментарии бота GPT-3 получились удачными. Иногда он давал весьма странные ответы. На вопрос о кликах по баннерам с эротическим содержанием нейросеть сгенерировала пост от лица юриста, который рассказал о двух типах людей, один из которых делает это неосознанно. 

Некоторые посты thegentlemetre получились нечитаемыми. На просьбу рассказать о способах тренировок бот ответил бессмысленным текстом: «Людям не нравится то, что у них есть, поэтому они идут и пробуют более жесткие методы приобретения вещей». Судя по всему, языковая модель попыталась перефразировать известную англоязычную цитату «цель упражнений — не думать о том, что вы проводите свою жизнь, работая за деньги».

Возможности нейросетей

Исследователь, обнаруживший бота, рассказал, что уже давно занимается наблюдением и работой с языковыми моделями. По его словам, GPT-3 в своих комментариях генерировал совершенно новые идеи. Разработчик предположил, что нейросеть могла бы наполнить контентом сайт, подобный «Википедии», за несколько часов. Автор считает, что людям пора задуматься о применении новых возможностей и о контроле над этими системами.

Искусственный интеллект не впервые успешно выдал себя за живого автора текстов. Ранее другой исследователь завел блог, который заполнял публикациями бот. За две недели он смог набрать 26 тыс. читателей, из которых никто не догадался, что материалы пишет не человек.


Автор:
Александр Вашкевич Аналитик


Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. 9539356 13.10.20 13:44 Сейчас в теме
Да уж. На наших глазах появился пионер ИИ. Наши дети в будущем будут с подобным мусором иметь дело ежедневно, в Интернете это будет обыденностью, как сейчас пустые статейки обо всем от СММщиков. Надо запомнить, будет что рассказывать малятам в старости.
5. вивйв 14.10.20 08:30 Сейчас в теме
(1) Возможно, мусором будут считаться те немногие оставшиеся учетки реальных людей, а миром будет править ИИ))
zavladaev; +1 Ответить
2. Дон Кихот 2 13.10.20 15:06 Сейчас в теме
Вместо того чтобы строить справедливый мир и всем вместе бороться за светлое будущее многие допускают что злодеи захватившие власть в мире и есть неизменный первоисточник. Это просто удачливые торговцы, которым повезло однажды, не способные далее развивать мировое сообщество, ставшие теперь узурпаторами строящими тюрьму для всех.
3. Steelvan 42 13.10.20 18:31 Сейчас в теме
хе-хе, когда мне звонит очередной рекламщик, то первая моя фраза это "Сколько будет один вжик-вжик плюс один".
Не отвечает = ПшелВонБот.

Интересно, сколько таких учеток, делающих записи на мисте.
Можно почти в каждой из мистовских учеток сомневаться :)
6. user856012 13 14.10.20 10:01 Сейчас в теме
(3)
Можно почти в каждой из мистовских учеток сомневаться :)
Зачем куда-то ходить? Сообщение (2) - типичный пример "творчества" бота... причем даже без признаков интеллекта, искусственного или естественного.
товарищ Ын; NorraSaltolinen; +2 Ответить
4. Brawler 481 13.10.20 21:56 Сейчас в теме
Рогозина нужно заменить на ИИ, а то такую пургу несёт ...
7. serg33rus 14.10.20 12:19 Сейчас в теме
(4) Так может уже заменили, а технологии еще не отработаны. Поэтому и несет :-)
Оставьте свое сообщение

См. также

Российский разработчик создал неофициальную версию Clubhouse для Android

Новость Android ИТ-новость Мессенджеры Мобильные приложения

Бывший разработчик из «ВКонтакте» Григорий Клюшников выпустил приложение для Android, предоставляющее доступ к большинству функций Clubhouse. Официально соцсеть доступна только пользователям iOS.

вчера в 13:27    1681    VKuser24342747    0       

Масштабное обновление Trello: пять новых видов досок и интеграция с Google Docs

Новость ИТ-новость Новости компаний

Компания Atlassian выпустила масштабное обновление сервиса управления проектами Trello. Разработчики изменили дизайн, добавили пять новых видов досок и реализовали для карточек возможность отображать информацию из сторонних сервисов.

25.02.2021    2658    user1015646    0       

Видеоигра на базе нейросетевого генератора текстов стала бизнес-консультантом

Новость Видеоигры Искусственный интеллект ИТ-новость

Энтузиаст использовал возможности текстового квеста, генерирующего разнообразные миры при помощи нейросети GPT-3, чтобы получать советы по ведению бизнеса. Часть идей ИИ оказалась пригодной для использования.

25.02.2021    1622    VKuser24342747    1       

В ближайшие годы возрастет потребность в персонале центров обработки данных

Новость Дата-центры ИТ-новость Цифровая экономика

Согласно отчету Uptime Institute, количество сотрудников, необходимых для обеспечения работы ЦОД, вырастет с 2 млн. в 2019 году до 2,3 млн. в 2025 году.

24.02.2021    1873    SKravchenko    0       

Google кардинально изменит дизайн Android 12

Новость Android Google ИТ-новость Мобильные приложения Новости компаний

Компания Google анонсировала глобальное обновление популярной операционной системы Android. Новая версия выйдет под номером 12. Говорят, что Android 12 назовут «Snow cone» – летний десерт из сладкого колотого льда.

24.02.2021    2122    mouse187    0       

Google представила новый сервис для поиска уязвимостей в открытом ПО

Новость Google Безопасность ИТ-новость

Компания Google запустила платформу с открытым исходным кодом OSV (Open Source Vulnerabilities). Она создана для поиска и закрытия уязвимостей в свободном ПО.

18.02.2021    1286    user1015646    0       

Отечественная компания представила сервер приложений Java EE

Новость ИТ-новость Новости компаний Языки программирования

Российская компания Bellsoft представила отечественный аналог сервера Oracle и IBM для JavaEE. Раньше продукт на базе открытого кода был доступен только для некоторых клиентов организации.

17.02.2021    2343    VKuser24342747    4       

Rustоманы из Долины: Google, Microsoft, Huawei, Mozilla и AWS основали фонд поддержки языка программирования

Новость Google ИТ-новость Новости компаний Языки программирования

Rust – перспективный язык, который широко применяется в разработке операционных систем и высоконагруженных веб-сервисов. Rust Foundation будет заниматься поддержкой и развитием языка.

16.02.2021    1585    user1015646    0       

В Microsoft Teams появилась платформа для общения и обучения

Новость Интернет ИТ-новость Мессенджеры Новости компаний

Microsoft добавила новые функции в корпоративный мессенджер Teams. В подключенной к нему платформе Viva можно пройти обучение, пообщаться с коллегами или улучшить организацию работы.

15.02.2021    3157    user1015646    0       

Google рассказала, как защищает Android от взломов

Новость Android Google Безопасность ИТ-новость

Google опубликовала информацию о том, как компания пытается улучшить безопасность Android, и какие шаги предпринимаются для борьбы с распространенными угрозами. Отчеты об уязвимостях играют в этом значительную роль.

12.02.2021    1876    SKravchenko    0       

Для регионов разработают приложение онлайн-записи на прием к врачам

Новость ИТ-новость Медицина Минкомсвязь Цифровая экономика

О возможностях приложения рассказали в Минздраве и Минцифре.

10.02.2021    1730    Senator_I    2       

Google разработает новую мобильную ОС

Новость MobileOS Google ИТ-новость Мобильные приложения

Корпорация Google создаст мобильную операционную систему для повышения безопасности использования устройств. Проект запущен под рабочим названием microdroid.

09.02.2021    2113    user1015646    0       

Google закрывает собственную игровую студию Stadia

Новость Google Видеоигры ИТ-новость Новости компаний

1 февраля Google официально закрыл собственную студию разработки игр для проекта Stadia, чтобы сосредоточить внимание на технологиях, лежащих в основе платформы.

09.02.2021    1449    SKravchenko    0       

Google представила технологию для замены cookies

Новость Google Интернет ИТ-новость

Методы сбора файлов cookies для повышения точности подбора рекламы не раз упрекали в нарушении личного пространства пользователей. Компания Google представила технологию, которая позволит отказаться от cookies и повысить уровень конфиденциальности.

09.02.2021    1235    user1015646    0       

Украинская команда FireWay одержала победу в хакатоне NASA Space Apps Challenge 2020

Новость ИТ-новость Стартапы

Украинская команда FireWay из Днепра стала победителем международного хакатона NASA Space Apps Challenge. Их изобретение было описано как «решение, которое демонстрирует наиболее инновационное использование технологии».

05.02.2021    1926    SKravchenko    2       

Китайцы разработали целых две альтернативы Flash

Новость Интернет ИТ-новость

Китайцам пришлось разработать собственную технологию ReFla взамен Flash для предотвращения сбоев в работе систем. Также они выпустили доработанную версию Flash Player с кодом 34.0.0.92.

04.02.2021    2071    mouse187    4       

Популярные дистрибутивы Linux могут лишиться поддержки Chromium

Новость Linux Google Интернет ИТ-новость

Из дистрибутивов Arch Linux, Fedora, Debian, Slackware и openSUSE может исчезнуть поддержка браузеров на движке Chromium. Причина – жесткие правила Google, из-за которых возникли проблемы с синхронизацией данных.

03.02.2021    2355    user1015646    3       

Microsoft участвует в разработке цифрового паспорта вакцинации от Covid-19

Новость ИТ-новость Медицина

Крупнейшие корпорации из сектора здравоохранения и ИТ-гиганты, такие как Microsoft, Salesforce и другие, объединились для создания цифровых идентификационных карт, которые подтверждают статус вакцинации против Covid-19.

02.02.2021    1728    capitan    3       

Что нового в Chrome 88: проверка надежности паролей и поддержка профилей

Новость Google Интернет ИТ-новость

Компания Google представила новый релиз браузера Chrome и обновила движок Chromium. Теперь ПО будет предупреждать о небезопасных паролях, а пользователь сможет создать привязанный к учетной записи профиль для персонализации работы в сети.

01.02.2021    2188    user1015646    0       

280 символов для науки: Twitter откроет доступ ученым к архиву твитов

Новость ИТ-новость Соцсети

Twitter предоставит академическим исследователям социальных сетей бесплатный доступ почти ко всем твитам. Исключение площадка сделает только для заблокированных аккаунтов.

29.01.2021    1469    VKuser24342747    1       

Отключение Flash на сутки лишило город железнодорожных служб

Новость Интернет ИТ-новость

Прекращение поддержки Flash парализовало работу железнодорожной сети китайского города-миллионника. Организация проигнорировала предупреждения Adobe о грядущем отключении технологии.

29.01.2021    1834    VKuser24342747    1       

Amazon представил форк Elasticsearch с открытым исходным кодом

Новость ИТ-новость Новости компаний Облачные технологии

Компания Amazon намерена развивать собственную версию решения для поиска, хранения и анализа данных Elasticsearch. Форк можно будет использовать в проектах с открытым исходным кодом.

28.01.2021    2258    user1015646    0       

Наниматели назвали самые востребованные языки программирования

Новость Аналитика ИТ-новость Языки программирования

Компания по обучению программистов CodinGame составила рейтинг самых востребованных языков программирования среди нанимателей. Для этого организация опросила 15 тыс. разработчиков и менеджеров по персоналу.

27.01.2021    2462    SKravchenko    1       

Вышел новый мировой стандарт Wi-Fi 6E. В России он не доступен

Новость ИТ-новость Телекоммуникации

В мире стартовало лицензирование и распространение устройств для работы с новым стандартом беспроводных сетей Wi-Fi 6E. В России стандарт не будет поддерживаться, поскольку частота в 6 ГГц уже занята.

26.01.2021    2055    user-programmist    2       

CES 2021: главные анонсы первой технологической выставки года

Новость Инновации ИТ-новость Микроэлектроника

CES (Consumer Electronics Show) в Лас-Вегасе традиционно открывает год на мировом рынке технологий. Из-за ограничений, связанных с пандемией, выставку провели онлайн, но это не помешало производителям представить интересные новинки.

25.01.2021    2544    user1015646    2