Тема: Этика искусственного интеллекта.
Доклад
Тема: Этика искусственного интеллекта.
Бийск – 2022
Этика искусственного интеллекта является частью этики HYPERLINK "https://en.wikipedia.org/wiki/Ethics_of_technology" HYPERLINK "https://en.wikipedia.org/wiki/Ethics_of_technology"технологий (англ.) рус HYPERLINK "https://ru.wikipedia.org/w/index.php?title=%D0%AD%D1%82%D0%B8%D0%BA%D0%B0_%D1%82%D0%B5%D1%85%D0%BD%D0%BE%D0%BB%D0%BE%D0%B3%D0%B8%D0%B9&action=edit&redlink=1". HYPERLINK "https://ru.wikipedia.org/w/index.php?title=%D0%AD%D1%82%D0%B8%D0%BA%D0%B0_%D1%82%D0%B5%D1%85%D0%BD%D0%BE%D0%BB%D0%BE%D0%B3%D0%B8%D0%B8&action=edit&redlink=1", характерной для роботов и других искусственно интеллектуальных существ. Она обычно подразделяется на робоэтику, которая решает вопросы морального поведения людей при проектировании, конструировании, использовании и лечении искусственно разумных существ и машинную этику (англ.)рус HYPERLINK "https://ru.wikipedia.org/w/index.php?title=%D0%9C%D0%B0%D1%88%D0%B8%D0%BD%D0%BD%D0%B0%D1%8F_%D1%8D%D1%82%D0%B8%D0%BA%D0%B0&action=edit&redlink=1"., которая затрагивает проблемы морального поведения искусственных моральных агентов (ИМА).
Этика роботов
Термин «этика роботов» (или «робоэтика») относится к моральным вопросам того, как люди проектируют, конструируют, используют и обращаются с роботами и другими искусственно интеллектуальными существами. Она занимается вопросами того, как искусственно разумные существа могут быть использованы во вред и в интересах людей.
Права роботов
«Права роботов» — это концепция, согласно которой люди должны иметь моральные обязательства перед своими машинами, аналогичные правам человека или животным. Есть предложение, что права роботов, такие как право на существование и выполнение своей собственной миссии, можно связать с обязанностью робота служить человеку, по аналогии с увязкой прав человека с обязанностями человека перед обществом. Они могут включать право на жизнь и свободу, свободу мысли и высказываний, а также равенство перед законом. Этот вопрос был рассмотрен Институтом будущего и Министерством торговли и промышленности Великобритании.
Эксперты не имеют общего мнения, потребуются ли конкретные и подробные законы уже в ближайшее время или только в отдалённом будущем. Гленн МакГи сообщает, что к 2020 году могут появиться достаточно гуманоидные роботы. Рэй Курцвейл считает, что это произойдет к 2029 году. В 2007 году другая группа учёных предполагала, что пройдет, по крайней мере, 50 лет, прежде чем сможет существовать какая-либо достаточно продвинутая система.
Правила конкурса Лобнеровской премии 2003 года предусматривали возможность того, что роботы могут иметь собственные права.
В октябре 2017 года андроид София получила «почётное» гражданство в Саудовской Аравии, хотя некоторые наблюдатели сочли это скорее рекламным ходом, чем осмысленным юридическим признанием. Некоторые рассматривали этот жест как открытое унижение прав человека и верховенства закона.
Философия сентитизма (англ.)рус. предоставляет право на моральные соображения всем чувствующим существам, прежде всего людям и большинству животных. Если искусственные или инопланетные интеллектуальные существа демонстрируют доказательства своей чувственности, эта философия считает, что к ним следует проявить сострадание и предоставить права.
Джоанна Брайсон утверждала, что создание требующего прав ИИ можно избежать и само по себе неэтично, что это будет бременем и для агентов ИИ и для человеческого общества.
Угроза человеческому достоинству
Джозеф Вейзенбаум утверждал в 1976 году, что технология искусственного интеллекта не должна использоваться для замены людей на должностях, требующих уважения и заботы, таких как:
-Сотрудник службы поддержки клиентов (технологии ИИ уже используется сегодня в телефонных системах интерактивных голосовых ответов)
-Терапевт (как было предложено Кеннетом Колби в 1970-х годах)
-Сиделка для пожилых людей (как рассказала Памела МакКордак в своей книге «Пятое поколение»)
-Солдат
-Судья
-Полицейский.
Вайзенбаум объясняет, что от людей на этих должностях мы требуем подлинного чувства эмпатии. Если машины их заменят, мы окажемся отчужденными, обесцененными и разочарованными. Искусственный интеллект, если его использовать таким образом, представляет угрозу для человеческого достоинства. Вайзенбаум утверждает, что факт того, что мы рассматриваем возможность машинам занимать эти позиции, говорит о том, что мы испытали «атрофию человеческого духа, возникающую из-за того, что мы думаем о себе как о компьютерах».
Памела МакКордак возражает, говоря о женщинах и меньшинствах, «я бы предпочла рискнуть с беспристрастным компьютером», указывая на условия, в которых мы бы предпочли иметь автоматических судей и полицию, у которых вообще нет личных интересов. Тем не менее, Каплан и Хенлейн подчеркивают, что системы искусственного интеллекта интеллектуальны ровно в соответствии с теми данными, которые использовались для их обучения, поскольку по своей сути они представляют собой не что иное, машины для приближения с помощью кривых: использование искусственного интеллекта для поддержки судебного решения может быть весьма проблематичным, если прошлые решения демонстрируют предвзятость к определённым группам, поскольку эти предубеждения формализуются и закрепляются, что делает выявление и борьбы с ними ещё более трудной. Основатель ИИ Джон Маккарти возражает против морализирующего тона критики Вейзенбаума. Он пишет: «Когда морализаторство неистово и расплывчато, оно поощряет авторитарное насилие». Билл Хиббард отмечал, что «человеческое достоинство требует, чтобы мы стремились устранить наше незнание природы бытия, и для этого необходим ИИ».
Зачем искусственному интеллекту этика?
(«Авторы раздела: Готовцев П. М., Карпов В. Э.,Нестик Т. А,Потапова Е. Г. https://ethics.cdto.center/3_1 »)
Этика ИИ рассматривается в двух основных аспектах:
- этические принципы, лежащие в основе принимаемых ИИ решений, и
-этичное поведение ИИ в ситуации, напрямую касающейся людей.
Второй аспект принципиально отличает этику ИИ от этики других цифровых технологий.
Внедрение систем ИИ в повседневную жизнь сопряжено со множеством этических проблем, которые уже в ближайшие годы будут все серьезнее и сложнее. Первыми примерами стали смертельные исходы в автокатастрофах с самоуправляемыми автомобилями Tesla (2016) и Uber (2018), протест разработчиков ИИ в компании Google против участия в военных проектах Минобороны США, случаи манипулирования доступностью информации, сексизма и расизма в алгоритмах распознавания лиц и таргетированной рекламы с использованием ИИ. Масштабные этические проблемы возникают при использовании ИИ государственными службами для контроля за гражданами. Возможные негативные социальные последствия применения алгоритмов в работе государства широко обсуждаются в СМИ, а также в органах власти в некоторых странах.
Однако этика ИИ принципиально отличается от этики других технологий, например дата-этики. В отношении остальных технологий обсуждаются общие вопросы изменений в профессиональной этике, этике применения, этике ответа на социальные вызовы (например, риск массовой безработицы) и т. д., тогда как в этике ИИ есть еще совершенно другое, очень важное изменение. Этику И И технологий от этики других областей отличает проблема этичного поведения интеллектуальной системы (ИС) в ситуации, когда ее решение касается людей.
Принципиально важно, что система ИИ способна:
самостоятельно принимать решения, касающиеся человека,
анализировать данные в таких объемах и с такой скоростью, как человек делать не в состоянии (следовательно, человек не может проверить верность решений).
Соответственно, основная проблема ― определение того, насколько решения, принимаемые интеллектуальной автономной системой (ИАС), соответствуют этическим нормам, то есть насколько она этична.
Первый аспект предполагает, что первоначально программу для ИИ пишут люди, но в дальнейшем система ИИ ведет себя уже почти самостоятельно, может самосовершенствоваться, реструктуризироваться, улучшать свои параметры и пр. Создавая И С, которая принимает критически важные для человека решения, мы хотим получить гарантии, что система руководствуется этическими соображениями. Поэтому столь важно привнести этичность в саму технологию ИИ. Сложность состоит в том, что моральный выбор — это выбор, который определяется не четко обозначенными нормами закона, а примерно сформулированными правилами, принципами, личными мнениями и всем тем, что можно оценить как «хорошо» или «плохо». Соответственно, его сложно формализовать и заложить в ИИ.
Второй аспект этики ИИ подразумевает анализ и предотвращение этических коллизий, возникающих в процессе применения ИИ, к ним отнесены: нарушение приватности, возможная дискриминация, социальное расслоение, проблемы трудоустройства и т. д. (см. раздел 5). Отдельно стоит тема профессиональной этики разработчиков систем ИИ, она также требует рассмотрения, и в перспективе возможно создание этических кодексов и рекомендаций для разработчиков.
В последние несколько лет десятки стран включились в технологическую гонку по разработке ИИ: к ноябрю 2019 года были приняты 34 национальные стратегии по ИИ (еще три находятся на стадии принятия). В будущем человечество не откажется от ИИ, скорее всего, ИИ будет все больше, шире и активнее использоваться в самых разных сферах. Важно как можно оперативнее задать этические рамки, в которых будет развиваться ИИ, ограничить возможности его неэтичного применения и направить энергию разработчиков и идеи законодателей в русло, обеспечивающее максимальную безопасность и выгоду для общества.оответствуют этическим нормам, то есть насколько она этична.
Однозначного ответа на данный вопрос нет. Более того, вариаций ситуации, в которой приходится принимать подобное решение, очень много [1]. К тому же разные социальные группы дают разные ответы. Так, например, буддистские монахи преимущественно готовы пожертвовать жизнью одного человека, чтобы спасти пятерых даже в более сложном варианте проблемы вагонетки.
Система, которая учится на информации полученной из внешнего мира, может действовать таким образом, который создатели не могли предсказать, а предсказуемость критична для современных правовых подходов.
Что касается искусственного интеллекта, такая ситуация может возникнуть, например, на дороге, по которой двигается беспилотный транспорт, в случае, если авария непреодолима. Возникает вопрос, чья жизнь должна быть в приоритете — пассажиров, пешеходов или ни тех, ни других? В Массачусетском технологическом университете был даже создан специальный сайт, посвящённый этой проблеме, где пользователь может попробовать на себе различные сценарии и выбрать, как стоило бы поступить в той или иной ситуации.
Возникают также вопросы, что позволено делать с правовой точки зрения? На основе чего делать выбор? И кто в итоге будет виноват? Данная проблема уже получила отклики от компаний и регуляторов. Так, представители компании «Мерседес» прямо сказали, что их машины будут отдавать приоритет пассажирам, на что в Министерстве транспорта Германии был сразу же дан ответ, предвосхищающий будущее регулирование, — что делать такой выбор на основе ряда критериев будет неправомерно и в любом случае производитель будет нести ответственность.
Другие страны могут выбрать иной путь. Возьмём, к примеру, китайскую Систему социального рейтинга, в соответствии с которой каждому гражданину присваивается рейтинг в зависимости от законопослушности, полезной общественной деятельности и др. Обладатели низких рейтингов будут подвергаться санкциям. Что помешает руководству Китая заставить производителей беспилотного транспорта предусмотреть правило, что в случае непреодолимой аварии жертвовать необходимо человеком с наименьшим рейтингом? За счёт, например, технологий распознавания лиц и доступа к соответствующим базам данных, вполне возможно определить и сравнить рейтинги потенциальных жертв.
В связи с особенностями искусственного интеллекта звучат предложения о непосредственной ответственности определённых систем. В соответствии с такими взглядами, не существует фундаментальных причин, почему автономные системы не должны нести ответственность за свои действия. Однако открытым остаётся вопрос о необходимости либо желательности введения такой ответственности (во всяком случае на данном этапе). Это в том числе связано с этическими проблемами, указанными в статье. Возможно, сделать программистов или пользователей автономных систем ответственными за действия таких систем будет более эффективным. Однако это же может замедлить инновации. Поэтому необходимо продолжить поиски оптимального баланса.
Для этого важно ответить на многие вопросы. Например, какие цели мы преследуем, развивая технологии искусственного интеллекта? Чьи интересы должны преобладать? Насколько эффективно это будет? Ответ на эти вопросы поможет предотвратить ситуации подобно той, которая случилась в России XVII в., когда животное (а именно, козёл) было отправлено в ссылку в Сибирь за совершённые им действия.
Список источников
1. https://ethics.cdto.center/3_1
3. https://ru.wikipedia.org/wiki/Этика_искусственного_интеллекта
