В Кто это написал? лингвист Наоми С. Барон обсуждает, как искусственный интеллект угрожает нашей способности выражать себя
Искусственный интеллект пронизал большую часть нашей повседневной жизни, будь то в форме пугающе правдоподобных подделок, онлайн-новостей, содержащих слоганы “написано ИИ”, или новых инструментов, которые могли бы диагностировать состояния здоровья. Может показаться, что все, что мы делаем, выполняется с помощью какого-то программного обеспечения, интерпретируется какой-то таинственной программой и хранится на сервере, который знает где. Когда роботы уже возьмут верх? Они уже взяли верх?
Недавние разработки в области ИИ поднимают экзистенциальные вопросы, над которыми мы боремся с тех пор, как взялись за пресловутую бумагу: кто это написал, и могу ли я этому доверять? Фейковые новости — это старые новости, но некоторые все еще спорят о том, существовал ли Шекспир или представлял нескольких авторов. Большие языковые модели (LLM) — это комбинации авторов, каждый со своим собственным стилем, голосом и опытом. Если генеративная программа ИИ ChatGPT продолжит попытки — и мы продолжим кормить ее Шекспиром — напишет ли она нашу следующую великую трагедию?
Лингвист Наоми С. Барон из Американского университета годами блуждает в водах ИИ. В своей последней книге Кто это написал? Как ИИ и соблазн эффективности угрожают человеческому письму, она погружается в суть вопроса: если мы передадим написанное слово ИИ, что мы потеряем? Scientific American поговорила с Бэроном по вопросу владения и достоверности письменного общения теперь, когда ИИ появился на сцене.
Использовали ли вы ChatGPT для написания чего-либо из этой книги?
Вроде того, но совсем чуть-чуть. Я закончил, Кто это написал? в середине ноября 2022 года, за две недели до появления ChatGPT. Мне не составило труда включить что-нибудь о новом чудо-боте.
Моим решением было запросить ChatGPT о пересечении этой передовой формы ИИ с такими вопросами, как креативность, образование и авторское право. В книге я цитирую некоторые ответы ChatGPT.
Когда я спросил ChatGPT, может ли он сохранить авторские права на короткие рассказы, автором которых он является, ответом было “нет” в первый раз, когда я спросил, и “да” во второй. Несоответствие отражало конкретную часть набора данных, в которую погрузилась программа. В ответ на “нет” ChatGPT сообщил мне, что как LLM он “не способен владеть авторскими правами или какой-либо формой интеллектуальной собственности”.РЕКЛАМА
Согласно закону США об авторском праве, это правда. Но в ответ “да” бот сослался на другие аспекты авторского права США: “Чтобы произведение было защищено авторским правом, оно должно быть оригинальным и зафиксированным в материальной форме, например, записанным. Если короткий рассказ, написанный GPT, соответствует этим критериям, [сказал ChatGPT], то он будет иметь право на защиту авторских прав.
Согласованность — это особенность больших языковых моделей.
Вы правы. Единственное, что имеет значение для большого набора языковых данных, — это наличие текста для использования. ИИ не обладает разумом и не способен заботиться об источнике.
Но что происходит с человеческим общением, когда мой бот разговаривает с вашим ботом? Microsoft, Google и другие разрабатывают функции электронной почты на базе ИИ, которые все чаще “читают” то, что находится в нашем почтовом ящике, а затем готовят для нас ответы. Современные инструменты ИИ могут изучить ваш стиль письма и создать приемлемое факсимиле того, что вы могли бы написать сами.
Меня беспокоит то, что слишком заманчиво поддаваться таким уловкам во имя экономии времени и минимизации усилий. Что бы еще ни делало нас людьми, способность использовать слова и грамматику для выражения наших мыслей и чувств является важнейшей составляющей этой сущности.
В своей книге вы пишете: “Мы приручаем технологии”. Но как выглядит это “приручение” для ИИ?
Подумайте о наших собачьих компаньонах. Они произошли от волков, и потребовалось много лет плюс эволюция, чтобы некоторые из их видов превратились в собак, были одомашнены.
Социологи говорят об “одомашнивании” технологий. Сорок лет назад персональные компьютеры были новинкой. Сейчас они повсеместны, как и работающие на них программы. Даже Википедия, которую когда—то считали сомнительным источником информации, стала одомашненной.
Мы воспринимаем инструменты редактирования, такие как проверка орфографии, автозаполнение и предиктивный ввод текстовых сообщений, как должное. То же самое касается программ перевода. Что еще предстоит выяснить, так это то, насколько одомашненными мы сделаем программы генерации текста, такие как ChatGPT, которые создают документы из цельной виртуальной ткани.
Как ваше понимание ИИ и LLMS изменило то, как вы читаете и подходите к написанию?
Какая разница за три года! Что касается моего собственного письма, я остаюсь старомодным. Иногда я все еще набрасываю от руки. В отличие от этого, в моей роли университетского профессора я изменил свой подход к письменной работе студентов. В прошлые годы я предполагал, что текст был их собственным — не так сегодня. Благодаря программам редактирования и стилизации на базе ИИ, таким как Microsoft Editor или Grammarly, не говоря уже о полноценных инструментах генерации текста, доступных студентам по первому зову, я больше не знаю, кто что написал.
Какие программы ИИ, по вашему мнению, представляют наименьшую угрозу или которые, по вашему мнению, следует использовать?
Писательские способности ИИ — невероятное проявление силы. Но, подобно открытию огня, мы должны выяснить, как наилучшим образом его использовать. Учитывая новизну текущих программ, потребуется как минимум несколько лет, чтобы нащупать наш путь.
Современные программы перевода, хотя и не идеальны, замечательно хороши, и преимущество заключается в том, что обычные пользователи, не знающие языка, могут получить немедленный доступ к документам, которые у них не было бы другого способа прочитать. Конечно, потенциальным недостатком является потеря мотивации к изучению иностранных языков.
Еще одно многообещающее применение генеративного ИИ — редактирование текста, созданного человеком. Я в восторге, когда ИИ становится педагогическим инструментом, но в меньшей степени, когда он просто подтирает за автором, не извлекая уроков. Пользователи должны быть активными участниками процесса составления.
Как вы говорите в своей книге, существует риск того, что скорость и потенциальная эффективность ChatGPT будет превыше развития человеческих навыков. Благодаря проверке орфографии мы можем потерять наши собственные навыки правописания. Как вы думаете, что мы в первую очередь потеряем от способности ChatGPT писать юридические документы, электронные письма или даже новостные статьи?
Как я утверждаю в своей книге, журналистский бизнес, скорее всего, почувствует влияние на число занятых, хотя я не так сильно беспокоюсь о писательских навыках оставшихся журналистов.
Электронная почта — это более тонкая история. С одной стороны, если вы используете Microsoft Outlook или Gmail, вы уже видели много автозаполнений при написании электронных писем. С другой стороны, новые версии ИИ (вспомните GPT-4) самостоятельно пишут целые электронные письма. Теперь это может быть буквально мой бот, пишущий вашему боту. Я беспокоюсь, что подобные ChatGPT убаюкают нас, и мы перестанем заботиться о создании собственных сообщений, нашим собственным голосом, с нашими собственными чувствами, когда пишем людям, которые лично важны для нас.
Что вы думаете о недавних и потенциальных случаях нарушения авторских прав с участием авторов или издателей и ChatGPT?
Случаи нарушения авторских прав интересны, потому что мы действительно находимся на неизведанной территории. Вы, наверное, помните дело Гильдии авторов против Google, когда гильдия заявила, что Google Books допустил нарушение авторских прав, когда оцифровал книги без разрешения, а затем отобразил фрагменты. После многих лет судебных разбирательств Google выиграла … согласно постановлению о добросовестном использовании.
Из того, что я читал у юристов, которые являются экспертами по авторскому праву, я подозреваю, что OpenAI [компания, разработавшая ChatGPT] в конечном итоге тоже выиграет. Но вот отличие от дела Гильдии авторов: в случае с Google Books авторы могли потерять авторские гонорары, потому что пользователи Google Books, предположительно, с меньшей вероятностью покупали копии самих книг. Однако с помощью ChatGPT, если пользователь вызывает бота для генерации текста, а затем указанный пользователь хочет продать этот текст с целью получения прибыли, это может быть другая игра с мячом. Это основа дел в мире генеративного искусства. Это дивный новый правовой мир.