Все началось с новости об исследовании ответов больших лингвистических моделей при прохождении модифицированной «дилеммы вагонетки» Moral machineЧитать полностью »
Рубрика «моральный выбор»
«Путешествие в Элевсин» или моральный базис LLM
2024-08-23 в 11:51, admin, рубрики: GigaChat, llm, MIT, Moral Machine, Phi3, yagpt, большие языковые модели, моральный выбор, Пелевин, статистикаОтарки: социал-дарвинизм интеллектуалов
2020-10-02 в 12:04, admin, рубрики: моральный выбор, Читальный зал, этикаПредседатель комиссии.
Вы читаете на нескольких языках, знакомы с высшей математикой и можете выполнять кое-какие работы. Считаете ли вы, что это делает вас Человеком?
Отарк.
Да, конечно. А разве люди знают что-нибудь еще?
(Из допроса отарка. Материалы Государственной комиссии)
Эта статья — о морали и этике. В общем случае подобную статью можно написать здесь разве что обсуждая вопрос о том, кого должен будет сбивать автопилот беспилотного автомобиля в случае аварии. Но я полагаю, что обсуждение этого вопроса очень важно, потому что во всех дискуссиях используют этические основания своих позиций — но их никто прямо не проговаривает.
Над IT-сообществом постоянно витает незримый дух «успешного успеха», крайне сильна вера в справедливый мир и возможность добиться всего собственным трудом. И это часто приводит в чистом виде к ницшеанской морали, где всякий слабый заслуживает порицания за свою слабость. И это в целом ни у кого не вызывает возмущения, но почему-то возмущение довольно часто вызывают неизбежные следствия такого подхода к миру.
Я хочу попробовать описать связь этого популярного социал-дарвинизма, которым люди в целом довольны, и различных неприятных поледствий, которыми люди в целом недовольны. Может быть это позволит кому-то осознать, что к этим неприятным последствиям приводит именно социал-дарвинизм.
Читать полностью »
Мораль роботизированного транспорта: проблема вагонетки, риски и последствия
2020-01-10 в 13:31, admin, рубрики: automotive, Алгоритмы, Блог компании НПП ИТЭЛМА, итэлма, мозг, моральный выбор, Научно-популярное, проблема вагонетки, транспорт
Моральная сторона разработки роботизированного транспорта очень сложна. Разработчики твердо верят, что испытания нужно проводить на публичных дорогах, хотя они знают, что это подвергнет небольшому риску ни о чем не подозревающих участников движения. Автомобили, выпущенные после тестов, безусловно, будут попадать в аварии (в том числе с летальным исходом), и такое положение дел представляет собой пугающую и обескураживающую перспективу. В то же время успех сулит нам колоссальные улучшения дорожной безопасности и спасение жизней огромного числа людей, которые погибли бы, если бы не существовала возможность заменить более опасное человеческое вождение на поездку на беспилотном автомобиле.
Мы рассмотрим такие аспекты как:
- Понимание различных подходов к моральным рассуждениям людей в различных (или одинаковых) ситуациях
- То, как закон, общество и страховка относятся к рискованному вождению, авариям и несчастным случаям.
- Риски и потери при вождении (или обучении вождению), которые мы, похоже, охотно принимаем для получения небольших преимуществ.
- Как меняется наш взгляд на то, что «цель оправдывает средства» в зависимости от того, о чем идет речь: преднамеренные злодеяния или небольшие осознанные риски.
- Большие преимущества, которые мы получим, когда небольшой автопарк автономных автомобилей научится водить более безопасно, после чего их программное обеспечение будет скопировано в миллионы других машин – ситуация, которая невозможна в случае с водителями-людьми.
- Риски и принципы современных подходов к тестированию и разработке автономных автомобилей, и то, как Uber их нарушил.
- Огромная выгода, если мы сможем найти правильный подход.
«Те, кто готов променять свободу на безопасность, не достойны ни свободы, ни безопасности» (первоисточник)
2018-06-17 в 23:03, admin, рубрики: Блог компании Philtech-акселератор, гносеология, Законодательство в IT, информационная безопасность, моральный выбор, онтология, философия, филтех, Читальный зал, экзистенция, этикаВпервые я услышал эту фразу, когда я был буйным студентом-революционером от генерал-майора Петрова на видеолекции про ДОТУ (Достаточно Общую Теорию Управления), с тех пор я её часто употребляю как «последний довод короля» в обсуждениях дел мирских. Но так как мир вошел в активную фазу постправды и фэйка с метастазами, я решил копнуть первоисточники и разобраться, в каком контексте эту фразу употребил старина Бэн, и что он этим хотел сказать/доказать читателю.
Предлагаю прочитать первоисточник и обсудить именно суть фразы, границу ее применимости. (А не личность Петрова, ДОТУ или качество перевода.) Если есть знатоки истории, буду благодарен, если обрисуете более широкий контекст происходящего в то время.
Ассамблея Пенсильвании: Официальное письмо Губернатору
Опубликовано в протоколе заседания Палаты представителей, 1755-1756 гг. (Филадельфия, 1756), с. 19-21.
[11 ноября, 1755]
Да будет угодно губернатору,
В настоящее время Палата представителей собралась с самыми искренними намерениями, по возможности, избежать возникновения споров с губернатором на любой счет. И, глубоко переживая за нынешнее бедственное положение пограничных районов, преисполнена решимости пойти на любые меры ради обеспечения общественной безопасности и благополучия, которые вполне могли быть ожидаемы как со стороны верноподданных британской короны, так и патриотов своей страны.
Ввиду этого, на чтении послания Губернатора от третьего числа текущего месяца вместе с сопроводительными документами был немедленно внесен законопроект об увеличении суммы, выделяемой на содержание Его Величества, об увеличении выпуска бумажных денег и о выделении средств для погашения задолженности в течение пяти лет, согласно рекомендациям Губернатора.Читать полностью »