Запретить Терминаторов?

Готов ли мир к появлению роботов-убийц?

Более 100 специалистов из 26 стран мира обратились к ООН с призывом запретить разработку и использование автономных систем летального оружия. По их мнению, мир стоит на грани новой гонки вооружений.

https://www.theguardian.com/technology/2017/aug/20/elon-musk-killer-robots-experts-outright-ban-lethal-autonomous-weapons-war

Авторы послания указывают, что новые типы высокотехнологичных военных систем могут стать оружием диктаторов и террористов, а также использоваться хакерами в недопустимых целях.

Идея автономного оружия и искусственного интеллекта, им управляющего, великолепно отыграна Голливудом - достаточно вспомнить фильм 'Робокоп' Пола Верхувена и знаменитую киносагу 'Терминатор'. Сегодня на телеэкраны и в интернет-пространство попадает в основном информация о мирных проектах в этой сфере. Но военные разработки уже зашли довольно далеко, рассказал также подписавший письмо в ООН гендиректор компании NaviRobot Игорь Кузнецов: 'Уже, если проводить аналогии, то мышцы, скелет и спинной мозг военных роботов практически уже готовы по технологиям, не хватает пока еще только искусственного интеллекта, который принимал бы решения. Если этот искусственный интеллект разрабатывать бесконтрольно, то, конечно, может это привести к печальным последствиям. Там будет отсутствие такого барьера, как мораль. Это будет стопроцентно чистый робот-убийца'.

Появление смертоносных систем вооружения, управляемых искусственным интеллектом без участия человека - будущее уже ближайшее. Это и понятно: одна из главных проблем в современном бою - несовершенство каналов связи, которые могут быть повреждены либо блокированы. При этом очевидно, что сбои в работе боевых роботов или их попадание 'не в те руки' действительно ничего хорошего не сулят. Появление таких боевых систем - дело нескольких лет, поскольку остановить процесс их создания вряд ли удастся, считает директор по науке и технологии проекта 'Джейн' Роман Душкин: 'Технологии уже шагнули в такую сторону, что письма в ООН писать, в общем-то, поздно.

Кто когда слушал запреты ООН из крупных игроков, которые действовали всегда с позиции силы и себе на уме? Все это будет продолжаться явно или тайно, в конце концов. Я думаю, что ближнесрочная перспектива в пять лет - это вполне обосновано. Нам надо всем готовиться и как-то учиться жить в новом мире'.

При этом сейчас невозможно сказать, кто именно окажется лидером в сфере военной робототехники. Во всяком случае, это совсем не обязательно будет Америка, считает аналитик группы компаний 'Финам' Леонид Делицын: 'Шанс, что именно Соединенные Штаты выиграют эту гонку, сейчас кажется не очень высоким. Например, Китай может вполне успешно принять в ней участие. И тревога по этому поводу открыто звучит в американской прессе, что китайские инвесторы проникают в американские стартапы со своими деньгами'.

Практика показывает, что до сих пор новые технологии в любом случае пробивали себе дорогу, в том числе в военной области. Но, может быть, человечество уже успело накопить в этом плане критическую массу негативного опыта?

Илон Маск, кстати, и раньше не раз заявлял, что, по его мнению, искусственный интеллект является одной из самых опасных угроз человечеству и что в этой области необходим строгий контроль.

Как сообщают зарубежные СМИ, военные роботы разрабатываются в том числе и в России.

Ничего нового. Мёртвую руку когда ещё придумали. Суицидальные извращенцы.. .

РФ не присоединялась к этой коллективной просьбе.

Гонка автономных вооружений началась.

Ну то что ООН сейчас это профанация это все понимают.Поэтому пока есть противоборствующие страны всё что связано с разработкой и производством новых систем вооружений будет процветать,до их первого применения конечно же в тайне.

Более 100 специалистов из 26 стран мира

С какой же страны кучней всего.. .

Некоторые сторонники автономных систем вооружения утверждают, что эти системы можно программировать так, чтобы они действовали более 'осторожно' и точно, чем люди, и, следовательно, применять их с целью сокращения случайных потерь среди гражданского населения.
С другой стороны, их оппоненты утверждают, что у автономных систем вооружения никогда не будет присущего человеку здравого смысла, который необходим для законного применения силы, и что их применение скорее приведет к усугублению гуманитарных последствий.

Эти системы вооружения заставляют также задуматься над серьезными вопросами нравственного порядка, и их широкое распространение изменило бы коренным образом существующие взгляды на ведение военных действий. Главный вопрос для всех нас состоит в том, могут ли принципы гуманности и требования общественной совести разрешить машинам принимать решения о том, кому из людей жить, а кому умереть.

Автономная система вооружения - это машина, и она не может понести ответственность за нарушение международного гуманитарного права.

Возникает вопрос, выходящий за рамки ответственности тех, кто разворачивает эти системы: кто понесет юридическую ответственность, если в результате функционирования автономной системы вооружения будет совершено военное преступление - инженер, программист, изготовитель или командир, который привел оружие в действие?

Если ответственность не может быть определена как того требует международное гуманитарное право, можно ли признать развертывание таких систем законным или этически оправданным?

"убить всех человеков" (С) !!!

в частные руки будут продавать? я бы купил пару (если не слишком дорого).

Originally posted by Бонк:
понесет юридическую ответственность, если в результате функционирования автономной системы

Нихто - Тесла пока бесплатно убивает!!

у автономных систем вооружения никогда не будет присущего человеку здравого смысла, который необходим для законного применения силы

ево(здравомыслия)и у"некоторых Человеков"уж нет

Там будет отсутствие такого барьера, как мораль.

Ой, я вас умоляю! будто он сейчас есть.

Шанс, что именно Соединенные Штаты выиграют эту гонку, сейчас кажется не очень высоким

потому и завошкались, мораль тут сразу приплетать начали.
Атомную бонбу сбросить на япошек никакая мораль не мешала, а тут надо же, роботы-убийцы их волнуют

Готов ли мир к появлению роботов-убийц?

Какой странный вопрос.Роботы-убийцы уже давно применяются.Смотри минное оружие.

teppo:

потому и завошкались, мораль тут сразу приплетать начали.
Атомную бонбу сбросить на япошек никакая мораль не мешала, а тут надо же, роботы-убийцы их волнуют

Япошки до сих пор опомниться не могут!

Originally posted by драго:

Какой странный вопрос.Роботы-убийцы уже давно применяются.Смотри минное оружие.

Ну к минам если не походить,ничего не станет,а эти сами придут.Все одно,кнопку оставят, да или нет.Как при удалении файлов.

Ну к минам если не походить,ничего не станет,а эти сами придут

Ну так,и что?Я разве утверждал что прогресс стоит на месте?

Originally posted by pakon:

Ну к минам если не походить,ничего не станет

Вы правда думаете, что к каждой мине при ее установке непременно прилагается табличка "Ахтунг, минен!"?

.Все одно,кнопку оставят, да или нет.Как при удалении файлов.

Совсем не обязательно. Например патрулирующая границу роботизированная подводная лодка без экипажа.. О ней официально предупредят, а дальше ваши проблемы. Пересекли границу она атакует без предупреждения. Вполне себе вероятный сценарий.

Ну так не может быть. Не исключены случайные заходы в тч и дрейфующих судов с поломкой силовой установки. В том то и проблема, как машина будет различать цели.

Ну так не может быть.

Ещё как может. Что значит "случайный заход"? Пошёл в булочную напротив и случайно зашёл к Машке в гости, на 8 этажей выше.. Так что-ли? Так не бывает. У судна есть согласованный маршрут, если оно по плану должно пересечь границу у него должен быть опознавательный код "свой/чужой" как у самолётов. По этому коду определяется государственная принадлежность судна. Есть сигнал ничего с ним не случится даже с дрейфующим, нет сигнала или он неверный - следует атака.

Станислав Лем "Мир на Земле" 1984

"Гонка вооружений на Земле становится обременительной для всех её участников: оружие дорожает, а всё больше людей отказываются от участия в войнах. Это приводит к подписанию новой Женевской конвенции: все разработки вооружения переводятся на Луну и продолжаются без вмешательства людей. Каждая страна имеет свой сектор, в котором в течение некоторого времени искусственный интеллект моделирует вооружение, а затем производит и испытывает его. Таким образом, применение оружия и начало военных действий становится невозможным без предварительного уведомления Лунного Агентства. Становится реальностью глобальный мир"
https://ru.wikipedia.org/wiki/%D0%9C%D0%B8%D1%80_%D0%BD%D0%B0_%D0%97%D0%B5%D0%BC%D0%BB%D0%B5

Не исключены случайные заходы в тч и дрейфующих судов с поломкой силовой установки. В том то и проблема, как машина будет различать цели.

Свяжется с оператором, получит указания.

Originally posted by ЛЕНЭНЕРГО:

Не думаю.

А тут не надо думать.
Труп есть - системы сработали как надо ВСЁ!