Введение
В последнее время произошел взрыв инноваций «искусственного интеллекта», которые угрожают изменить аспекты того, как устроен мир. Были всевозможные инновации от генераторов искусственных изображений (см. мой предыдущий пост) до генераторов искусственного текста. Одной из таких новых технологий является ChatGPT, модель машинного обучения, основанная на GPT, которую можно использовать в качестве чат-бота. ChatGPT можно использовать для самых разных целей, включая предоставление информации, написание эссе, написание стихов и даже написание кода. Существует множество вариантов использования ChatGPT, но вместе с этим есть и некоторые недостатки.
Это как калькулятор
Одной из самых больших проблем, связанных с ChatGPT, является использование его для списывания школьных заданий. Я никогда не отправлял задание, написанное ChatGPT, но иногда я вводил подсказки своих заданий в интерфейс, чтобы посмотреть, что он выдаст. Ответы меня всегда поражают. Он дописывает к ответу абзацы и информацию, которую я не смог бы написать самостоятельно, хотя писательство никогда не было моим величайшим умением. Генеральный директор OpenAI Сэм Альтман сказал, что использование ChatGPT в школах похоже на использование калькуляторов. Он особо упомянул, как школам пришлось адаптировать уроки математики для использования калькуляторов, и что то же самое произойдет с уроками словесности, адаптированными для включения использования ChatGPT или других текстовых генераторов. Он прав только в двух аспектах: ChatGPT автоматически выдает результаты, и людям придется адаптироваться к новой технологии. Однако в его рассуждениях есть изъян.
Недостатки
Основное различие между ChatGPT и калькуляторами заключается в том, что в математике обычно есть только один правильный ответ, особенно при расчетах, которые выполняет калькулятор. Однако существует бесконечное количество ответов на письменную подсказку. Калькуляторы позволяют учащимся изучать математику более высокого уровня, и они все еще должны знать шаги, которые им необходимо выполнить, чтобы решить проблему, используя калькулятор в качестве инструмента для выполнения шагов. ChatGPT может просто написать целое эссе, просто скопировав и вставив подсказку. В таком случае, зачем учителю давать задание? Ученик не выполнил никакой работы. ChatGPT также склонен ошибаться. Поскольку это всего лишь причудливый агрегатор слов, обученный на неизвестном наборе данных заранее написанных слов, все, что он умеет, — это расставлять слова в порядке, который имеет смысл для подсказки. Из-за этого он не знает, когда он не прав. Вы можете сказать это и исправить, но многие студенты просто введут подсказку и примут все, что ChatGPT скажет правильно.
Еще один ошибочный аргумент, который я слышал, заключается в том, что многие энтузиасты ChatGPT и ИИ говорят, что эта технология так или иначе появится, и всем придется научиться ее использовать, иначе она станет неактуальной. В какой-то степени это может быть правдой, но я думаю, что более конкретные интерфейсы будут более полезными в будущем, чем обобщенный чат-бот. Для этого уже есть инструменты, например GitHub Copilot. Copilot и другие подобные инструменты не лишены проблем, но если языковые модели обучать на более конкретных наборах данных, то они будут намного полезнее для своих задач. Как упоминалось ранее, ChatGPT часто может ошибаться при предоставлении ответов, и до тех пор, пока это происходит, люди будут превосходить сгенерированный текст. Люди могут привнести в написание свои собственные уникальные точки зрения, мнения и стиль письма. Этого не так легко добиться с помощью сгенерированного текста, потому что языковые модели просто объединяют стили всех своих обучающих данных.
Авторские права
Аргумент, который я не слышал о ChatGPT, но слышал практически обо всем, что автоматически генерирует контент, — это проблемы с авторскими правами. Когда GitHub объявил, что модель OpenAI Codex, на которой работает Copilot, была обучена на репозиториях GitHub, все ненавидели это, говоря, что это нарушение авторских прав. У многих генераторов искусственных изображений возникают юридические проблемы, поскольку они обучались на изображениях без разрешения авторов и даже производят аналогичные изображения, доказывающие, что они использовались в обучающей выборке. Я еще не видел, чтобы кто-нибудь говорил о том, как OpenAI обучался на основе написанного другими людьми, чтобы создать ChatGPT, потому что модель более неясна. Насколько мне известно, ChatGPT еще не был уличен в создании чужой работы как своей собственной, но очевидно, что он обучался на работе других людей, потому что так и должно было быть. OpenAI никак не мог заставить своих людей написать достаточно большой набор примеров, чтобы довести его до уровня сложности, которого он достиг. И пока споры об авторских правах не будут решены в судах в отношении других подобных предприятий, для компании было бы рискованно использовать ChatGPT в больших масштабах в одном из своих продуктов.
Заключение
ChatGPT и другие языковые модели могут быть очень полезными технологиями, но они также могут быть и очень безрассудными. Небольшое использование этих инструментов может быть полезным для пользователя, но замена больших задач автоматическими ответами может сделать пользователя ленивым и предоставить неверную информацию. ChatGPT не сделает большинство людей бесполезными в своей работе в ближайшее время, и люди смогут справляться с задачами так же, как они делают это сейчас, без ChatGPT. ChatGPT в целом слишком рискован для использования в его текущем состоянии и не будет готов для публичного использования в течение определенного периода времени. Как всегда, я открыт для поправок и критики. Дайте мне знать, если вы не согласны с каким-либо пунктом, который я сделал, или с чем-то, что я сделал неправильно.
