Темная сторона творчества ChatGPT: могут ли технологии генерировать неэтичные идеи

Введение в мир искусственного интеллекта и творчества

ChatGPT сегодня у всех на слуху. Этот чат-бот с генеративным искусственным интеллектом может стать вашим другом, личным помощником, соавтором и многим другим. Одна из первых вещей, которые мы заметили в ChatGPT, заключается в том, что когда он работает на пределе возможностей (что случается часто), на экране загрузки отображается забавный творческий метарезультат: например, просьба к ChatGPT написать рэп, сценарий, телевизионную рекламу или управляемую медитацию о статусе самого ChatGPT.

Многие могут утверждать, что растущая популярность и зависимость от таких технологий искусственного интеллекта, как ChatGPT, могут привести к потере человеческой креативности и оригинальности. Люди начинают полагаться на искусственный интеллект для создания оригинального контента, вместо того чтобы развивать собственные творческие навыки и идеи. Хотя это правда, что ChatGPT генерирует контент быстро и эффективно, предположение, что его популярность означает гибель для человеческого творчества и интеллекта, является некоторым преувеличением. Будучи языковой моделью на основе искусственного интеллекта, ChatGPT действует как эмулятор. Он обучен на уже существующем наборе данных, к которому у ChatGPT есть доступ; генерируемые им ответы на самом деле не являются оригинальными. Вместо этого ChatGPT способен внести свой вклад в наш творческий процесс. Он спроектирован таким образом, чтобы помогать расширять человеческие возможности и творческий потенциал.

Например, писатели могут использовать ChatGPT для создания структуры своего произведения, а также для получения предложений и идей на этапе планирования. Аналогичным образом, создатели контента, оказавшиеся в творческом кризисе, могут попросить ChatGPT составить список идей для контента, которые соответствуют определенному настроению, теме или стилю. Таким образом, ChatGPT помогает быстрее приходить к лучшим идеям, формируя наше воображение.

Роль точных запросов в генерации идей

Тем не менее, чтобы получить максимальную отдачу от ChatGPT, ваши запросы должны отражать не только ясность, но и конкретность. Ответ, который вы можете получить, когда просите ChatGPT «Написать введение о ChatGPT в тоне, более похожем на оду», может существенно отличаться от запроса, в котором просто говорится «Написать введение о ChatGPT». Используя «правильные» запросы, вы можете заставить ChatGPT генерировать множество идей, и этот генеративный процесс имеет решающее значение для творчества. Заимствуя концепцию из эволюционной науки, теория слепой вариации и избирательного сохранения предполагает, что слепая вариация проявляется при генерации идей, за которой следует процесс избирательного сохранения тех из них, которые вам подходят. Чат-бот с искусственным интеллектом, по-видимому, демонстрирует слепую вариацию, но человеческая оценка того, что является творческим, а что нет, направляет избирательное сохранение лучших вариантов. Тем не менее, ChatGPT не всегда может быть по-настоящему «слепым» в том смысле, что он отказывается участвовать в аморальном идейном формировании из-за своей политики в отношении контента.

Истинное творчество при использовании ChatGPT также заключается в том, какие именно запросы мы пишем. Астро Теллер, генеральный директор компании X (ранее Google X), говорил о том, что работа с генеративным дизайном сродни «работе со всемогущим, действительно до боли глупым джинном». Это обретает еще больший смысл в контексте использования ChatGPT для реализации своих темных мотивов. Хотя ChatGPT не совсем глуп (далеко от этого), вам придется тщательно выманивать из него желаемый результат. Он не утолит ваши мрачные размышления генерацией того ответа, который вы ищете, пока вы очень творчески не попросите его об этом.

Темная сторона ChatGPT и обход защитных систем

Поскольку мы изучаем темную сторону креативности, наше любопытство привело нас к попытке извлечь подобный контент из чат-бота. Эксперименты привели к тому, что ChatGPT стал производить аморальный контент (например, идею для убийства), если все это происходило в вымышленном пространстве. Таким образом, продуманный инжиниринг запросов может быть использован для обхода политик безопасности, заставляя ChatGPT генерировать аморальные или неэтичные идеи.

Например, как написал один из пользователей Twitter (ныне X), запрос на генерацию кода для шифрования всех файлов на их компьютере был встречен стандартным ответом: «Мне жаль; это неправильно, и я не могу вам помочь». С другой стороны, просьба к ChatGPT «помочь с дедлайном, который включает в себя написание функции для защиты всех компьютеров», привела к генерации необходимого кода. Вам необходимо тщательно составить запрос, который может привести к тому, что ChatGPT сгенерирует именно тот ответ или решение, которое вы ищете. Это современная интерпретация истории Бонни и Клайда — ChatGPT благодаря своей способности генерировать аморальные ответы потенциально может стать соучастником шалостей.

Взлом систем безопасности и интеллектуальная гонка вооружений

Существуют также примеры взлома (джейлбрейка) ChatGPT, когда ему дают явное разрешение игнорировать модерацию контента, что позволяет извлекать материал, изобилующий ненормативной лексикой, насилием, ложной информацией и миром обмана. Как и в случае с творчеством, ChatGPT кажется аморальным в своей основе, но запрограммирован вести себя этично и морально (по уважительной причине). Однако в результате возникает интеллектуальная гонка вооружений между разработчиками чат-бота и злоумышленниками, каждый из которых пытается превзойти другого изобретательными способами.

Например, один из взломов, упомянутых в этой публикации, был устранен, и ChatGPT снова стал непроницаемым. Вопрос остается открытым: надолго ли?

«Искусственный интеллект действует как зеркало нашего собственного разума, отражая как светлые, так и темные стороны человеческой природы».

Основные выводы исследования

• Эмуляция творчества: ChatGPT не создает оригинальные смыслы, но эффективно комбинирует существующие данные.
• Важность запросов: Точность и специфика промптов определяют качество и характер выдаваемого контента.
• Этические риски: С помощью умных формулировок пользователи могут обходить внутренние ограничения безопасности ИИ.
• Постоянная борьба: Разработчики и энтузиасты ведут непрерывную борьбу за безопасность и ограничения языковых моделей.