Быть расистом или судить других по цвету кожи, волосам, региону, родному языку и каждому маленькому действию считается исключительной обязанностью только Людей. другие на основе этих атрибутов.
Полный пост читайте ЗДЕСЬ.
Да..!! вы правильно поняли. Машина, предназначенная для того, чтобы давать этические советы, давала неуместные ответы.
Что это такое?
У вас также может возникнуть тот же вопрос… Что это? или о чем ты говоришь?
Итак, давайте сначала попробуем ответить на этот вопрос, а затем перейдем к другим вещам.
Мы часто чувствуем себя одинокими и надеемся на хороший совет от наших друзей, пожилых людей, родителей и т. д. Но это не всегда возможно, найти хороший совет от кого-то, кому вы можете доверять, невозможно. Таким образом, что еще может быть лучшей заменой для него, чем машина, которая может выслушивать наши проблемы и отвечать этично, как тот, кому мы доверяем.
Поэтому перед командой из Allen Institute for AI была поставлена задача создать машину, которую может использовать любой человек для получения совета. Но мало ли они знали, что машина может выйти из-под контроля и создать для них проблемы.
Созданная ими Машина широко известна как Спроси Дельфи. Вы можете проверить это здесь." Попробуйте задать свои вопросы и поделиться результатами ниже в разделе комментариев.
Мы пытались получить совет от Delphi… Посмотрим, что он нам сказал…
Что такое Делфи?
«Delphi — исследовательский прототип, предназначенный для моделирования моральных суждений людей в различных повседневных ситуациях».
Команда из Allen Institute for AI разработала систему с единственной целью предоставления этических советов своим пользователям. Демо было создано и выпущено в прошлом году в 2021 году только для исследовательских целей, а не для общего пользования.
Delphi должен был стать исследовательским прототипом, используемым исследователями ИИ для исследовательской работы, но вскоре он стал вирусным, и команде было отправлено более 1,7 миллиона уникальных запросов, предоставив им богатый набор данных.
Команда сказала, что из полученных запросов многие из запросов были отрицательными, чтобы сработать и сломать модель, но это помогло команде провести стресс-обучение модели. Следовательно, удалось лучше обучить модель. Но они мало знали о том, как он будет реагировать на все эти негативные вопросы, используемые в обучении.
Всегда ли машины правы?
Это вопрос или общее мышление, которое мы развиваем с детства: «Машина не может ошибаться, но нам может серьезно понадобиться изменить это мышление с ростом числа машин и развитием технологий».
Чем больше и больше машин становятся умнее, они потребляют больше данных, чтобы быть более точными и выполнять различные действия. Теперь возникает вопрос, откуда мы берем такое огромное количество данных и как мы их проверяем?
Ответ на поставленный вопрос достаточно прост, большая часть данных берется из бескрайнего океана открытого веба, т.е. из пабликов, QnA-форумов, открытых опросов, регистрационных форм и т.д. и т.п. Эти данные в идеале огромны по объему, начиная от лакхов до кроров записей. Таким образом, для людей становится несколько невозможным проверить каждую запись, а также невозможно заранее судить, приведет ли запись к положительному или отрицательному результату.
Помимо этого, большинство машин используют ежедневные запросы пользователя для дальнейшего обучения для достижения лучших результатов.
Аналогичная методика использовалась для обучения Delphi, где база данных вопросов была взята из Reddit — американского агрегатора социальных новостей, рейтинга веб-контента и дискуссионного сайта. Ответы на эти вопросы были получены с помощью Amazon Mechanical Turk, краудсорсинговой площадки, которая упрощает для частных лиц и компаний передачу своих процессов и рабочих мест на аутсорсинг.
Машина или люди
Растущие достижения в технологиях и машины, которые день ото дня становятся все умнее и умнее, не только являются положительным моментом, но в то же время есть много проблем и проблем, которые мы можем слышать и видеть каждый день, например, Delphi дает некоторые неэтичные ответы. , будучи расистами, Alexa, предлагающая своим пользователям суицидальные мысли, и многие другие случаи.
Большой вопрос здесь: «Кого именно здесь винить? Машины или люди».
Оправданно ли возлагать всю вину на машины и запрещать их, или мы, люди, должны взять на себя ответственность за такое поведение машин?
Если вам все еще не ясно, как люди несут ответственность за плохое поведение машин, это можно легко понять из фильма «Мстители: Эра Альтрона», где Альтрон пытался узнать о человеческом мире, читая человеческие архивы, а затем пришел к выводу, что «Мстители», как и люди, являются самыми большими врагами этого мира. Таким образом, он пытается разрушить мир и начать новый, идеально сбалансированный.
Подобное условие может возникнуть или возникло и здесь: данные, которые использовались для обучения модели для Delphi, анализировали ответы человека и решали, что ему следует отвечать. Но дело в том, что каждый отдельный человек на этой планете Земля уникален и имеет свой собственный образ мышления, то, что может показаться правильным для группы людей, может быть совершенно неправильным для другой, и то, что должно быть правильным с этической точки зрения, может быть не таким правильным для других. люди.
Таким образом, предстоит многое выяснить, прежде чем станет возможной окончательная или лучшая версия человекоподобного бота.
Краткое содержание
Хотя это была самая первая версия Delphi, она находилась в самом зачаточном состоянии и только начала изучать человеческий разум, что делало ее проблематичной. Позже команда стала гораздо более сознательной и заинтересованной в программном обеспечении и попыталась улучшить его в гораздо большей степени, все еще не совершенном, все еще учась и совершенствуясь.
Ask Delphi — это не просто времяпрепровождение или проект колледжа, но он оказывает большее влияние, поскольку открывает двери для нового прорыва в машинном обучении и робототехнике, создания бота, который может взаимодействовать как люди и может отвечать / давать советы, не основанные на некоторых жестко закодированные ответы, но основанные на человеческом разуме и в то же время этически корректные.
Рекомендации
Этический ИИ, обученный человеческой морали, стал расистом»
"Бумага"
