Современная медицина и глюки программного обеспечения.

Вопрос к практикующим медикам, у которых компьютеризированная аппаратура - основной рабочий инструмент (вспомогательно-административный - не так интересно)
Я сам программист, и уж слишком хорошо знаю, что багов в наших творениях полностью избежать невозможно. Так что и ваш медицинский софт время от времени просто обязан глючить. Когда шалить, когда падать, а когда и просто врать. Вопрос - как вы с ним уживаетесь?

Originally posted by Гуманоид:

Вопрос - как вы с ним уживаетесь?

Своевременное обслуживание и тестирование практически исключает возможность фатальных неисправностей. Кроме того, медицинское оборудование сконструировано с очень большим резервом "дуракоустоичивости"

Gladiator:

Своевременное обслуживание и тестирование практически исключает возможность фатальных неисправностей. Кроме того, медицинское оборудование сконструировано с очень большим резервом "дуракоустоичивости"

Эээ.. . Не всё так просто. Дуракоустойчивость - это обычно ограничение возможных действий пользователя. Да, это снижает количество возможных проявлений багов. Тестирование - тоже всё верно, но не идеально. Баги всё же просачиваются через внутрикорпоративное тестирование и выявляются уже во время эксплуатации. Обслуживание софта - это лишь своевременное его обновление до самых свежих версий (с багфиксами). Но.. . всё это никак не является полной гарантией от того, что софтина вдруг не выплюнет бяку разной степени заметности и вредности. Более строгий контроль лишь снижает вероятность, но не устраняет проблему полностью (это технически невозможно, софт пишут люди, а они неидеальны)

И есть ещё одна беда - современный софт редко автономен. Обычно под ним всё же стоит операционная система, драйверы, сервисные программы сторонних разработчиков. Всё это может глючить, и необязательно проходить настолько строгий контроль, как специализированная медицинская программа, запущенная поверх всего этого.

Так что вопрос не снят. Врачей вот за ошибки судят, а что, если сбойнула аппаратура, и укокошила пациента? (в последнее время робохирурги появились, а киберножи и раньше были - страшновато как-то)

P.S. Просто я у кардиолога побывал.. . Эхо, велоэргометр - всё на компы выходит. Вот лежал я там, и задумался...

Тестирование - тоже всё верно, но не идеально.

Изощренности некоторых тестеров можно только удивляться

Originally posted by Гуманоид:

а что, если сбойнула аппаратура, и укокошила пациента?

Мне неизвестны примеры таких случаев.

я у кардиолога побывал.. . Эхо, велоэргометр - всё на компы выходит. Вот лежал я там, и задумался...

ну на компы, и что? да хоть все заглючат, на жизнедеятельность то это не влияет. А там,где аппаратура жизненно важная (ЭКС например), софт автономный- никаких виндовсов- х*****сов. И то,наверняка возможности самих устройств ограничены так,чтоб при аварии устройства, оно дров не наломало

И как ограничить робохирурга? Полоснёт разок по неверному вектору, и всё.. .

Originally posted by Гуманоид:

И как ограничить робохирурга?

Да Винчи что ли? Там нечему глючить, программа его управления проще, чем у настольного калькулятора Может быть механическая неисправность, но её вероятность не более вероятна, чем неисправность лифтовой кабины или тормозной системы в автомобиле - это не повод для отказа использования ничего из вышеперечисленного.. .

У меня иная информация. Эта машина даже блокирует некоторые движения хирурга, то есть сама решает, чего надо, чего нет. И её поведение зависит от типа операции. Вы, скорее всего, путаете простой интерфейс с тем программным кодом, который этот интерфейс реализует.
Лифты, кстати, часто ломаются, тачки тоже.

Учитывая, что медики не спецы в программах, а спецы в программах обычно не являются медиками я переформулирую вопрос. Если пациента зарежет не хирург, а машина в результате программного сбоя, то кто за это отвечать будет (в конечном итоге) - 1)хирург, 2)обслуживающий персонал машины, 3)больница, 4)продавец машины, 5)производитель машины, 6)программёр, который ляпнул.

Последний случай довольно напряжный, так как не ляпать СОВСЕМ в большом коде люди физически не могут. Такова специфика профессии. И первый же судебный процесс такого рода приведёт к резкому исходу профессионалов из этой зоны рынка программного обеспечения. Собственно, примерно та же ситуация с автопилотами в автомобилях.

то кто за это отвечать будет (в конечном итоге) - 1)хирург, 2)обслуживающий персонал машины, 3)больница, 4)продавец машины, 5)производитель машины, 6)программёр, который ляпнул.

будет суд, и все будут валить дpуг на дpуга

автопилотами в автомобилях.

они вообще невозможны-слишком много всего надо учитывать-и правила,и текущюю ситуацию.Автоведение ещё кое-как на железной дороге может быть, и есть, но под контролем человека, и то не всегда можно применить.
А робот-хирург, он вообще только под управлением человека может работать,сам-никак

Лифты, кстати, часто ломаются, тачки тоже.

да и без электроники, электрика и механика прекрасно ломаются

А робот-хирург, он вообще только под управлением человека может работать,сам-никак

Это не совсем верная точка зрения. Программа принимает данные с системы управления, транслирует их в внутренний формат, передаёт к роботу, обрабатывает входные данные, в том числе контролируя хирурга на заведомо выходящие за рамки операционного поля действия, на основании данных сенсоров робота, транслирует команды на сервомоторы роботу, учитывая обратную связь. На любом из этих этапов возможен сбой.

А сбой таки вполне может выглядеть как самостоятельные действия робота.

Originally posted by Гуманоид:

У меня иная информация. Эта машина даже блокирует некоторые движения хирурга, то есть сама решает, чего надо, чего нет. И её поведение зависит от типа операции. Вы, скорее всего, путаете простой интерфейс с тем программным кодом, который этот интерфейс реализует.

Вообще то я оперирую на Да Винчи - ничего он не блокирует. Это очень сложный и точный механизм с точки зрения механики, но достаточно простой с точки зрения электроники.. . На мой взгляд - некоторыми радиоуправляемыми моделями вертолетов управлять значительно сложнее

Originally posted by Гуманоид:

Лифты, кстати, часто ломаются, тачки тоже.

Да, ломаются - но, как правило, в результате пренебрежения правилами обслуживания и эксплуатации, и имеют встроенные механизмы безопасности.. . Во всяком случае, я ни разу в жизни не застревал в лифте, у меня никогда не отказывали тормоза и в операционной тоже проблем особых не возникало

Gladiator:

Вообще то я оперирую на Да Винчи - ничего он не блокирует. Это очень сложный и точный механизм с точки зрения механики, но достаточно простой с точки зрения электроники.. . На мой взгляд - некоторыми радиоуправляемыми моделями вертолетов управлять значительно сложнее

Трудно спорить с человеком, имеющим непосредственный опыт, но...
Первая попавшаяся ссылка, цитата:
"Робот 'Да Винчи' имеет сложное программное обеспечение и программируется перед каждой операцией; это необходимо для обеспечения точности движений. Система снабжена особой системой распознавания движений рук хирурга. При движении управляющего джойстика манипуляторы выполняют необходимое действие, но если рука врача случайно дрогнет, то система заблокирует манипулятор. Это позволяет избежать ошибок при операции."
assutatop.com

Вы это.. . Попробуйте сделать заведомо неверное движение эти роботом на экспериментальном кадавре, или что там для отработки операций используется. Может у вас доселе просто руки никогда не дрожали.

Во всяком случае, я ни разу в жизни не застревал в лифте

Вы из какого-то параллельного мира на форум выходите. У вас там, видимо, рай.

будет суд, и все будут валить дpуг на дpуга

Эдак по цепочке до программёра доберутся.. .

Originally posted by Гуманоид:

"Робот 'Да Винчи' имеет сложное программное обеспечение и программируется перед каждой операцией; это необходимо для обеспечения точности движений. Система снабжена особой системой распознавания движений рук хирурга. При движении управляющего джойстика манипуляторы выполняют необходимое действие, но если рука врача случайно дрогнет, то система заблокирует манипулятор. Это позволяет избежать ошибок при операции."

Это все выглядит и делается совершенно иначе

Перед операцией хирург производит калибровку манипуляторов в соответствии со своей моторикой. Если, к примеру, оператор во время теста сгибает палец со средней скоростью 2 см в секунду, то манипулятор оставляет для данного движения "коридор" от 0,5 до 5 см в секунду - все, что выходит за эти пределы действительно игнорируется, но только если врач не продолжает попытки выполнить "неправильную" команду. После 2-3 секунд "сопротивления" аппарат выполняет команду в любом случае. Кроме того, оператор всегда может отключить предохранительную функцию (я так поступаю еще до операции) - и тогда манипулятор следует за пальцами без какого-либо замешательства.. .

они вообще невозможны-слишком много всего надо учитывать-и правила,и текущюю ситуацию.Автоведение ещё кое-как на железной дороге может быть, и есть, но под контролем человека, и то не всегда можно применить.

Вы это автоконцернам скажите - они пропихивают сейчас автопилоты так сильно, что к началу двадцатых они станут нормой. Вот, ознакомьтесь:
overclockers.ru
Я прошу учесть, что так называемая "активная помощь водителю" на деле полностью контролирует машину. То есть способна совершить любое действие. В результате сбоя это может быть и лобовая атака

Если, к примеру, оператор во время теста сгибает палец со средней скоростью 2 см в секунду, то манипулятор оставляет для данного движения "коридор" от 0,5 до 5 см в секунду - все, что выходит за эти пределы действительно игнорируется

Здесь и собака зарыта - то, что делает манипулятор - это не движение вашего пальца, а результат работы программы, для которой движения вашего пальца - только входные данные. А движения манипулятора - выходной результат работы программы. Программу, конечно, тщательно вылизывали, но вот вопрос - а она там, в этой машине, только одна? Спросите оператора (обслуживающего техника) робота, не работает ли он случайно на какой-либо реалтаймовой версии юникса?

Originally posted by Гуманоид:

Вы из какого-то параллельного мира на форум выходите. У вас там, видимо, рай.

Просто люди выполняют на совесть свои обязанности А те, кто не выполняет - рано или поздно караются законом на очень серьезную сумму денег.. . Вот, например, если я застряну в лифте - могу подать на обслуживающий персонал жалобу с требованием компенсировать мой рабочий день (включая две-три операции), администрация моей больницы присоединиться, требуя компенсировать простой операционного зала, рядом обязательно будут иски от пациентов, в результате сумма запросто превысит несколько десятков тысяч долларов - лифтерам это надо? Про автомехаников я уже и не говорю - в случае причинения вреда здоровью по их вине, они всю жизнь будут работать на пострадавшего.. .

в случае причинения вреда здоровью по их вине, они всю жизнь будут работать на пострадавшего...

Скажите - а как люди вообще работают под таким постоянным риском? Никогда не ошибаются только мифические боги.

Originally posted by Гуманоид:

Здесь и собака зарыта - то, что делает манипулятор - это не движение вашего пальца, а результат работы программы, для которой движения вашего пальца - только входные данные. А движения манипулятора - выходной результат работы программы. Программу, конечно, тщательно вылизывали, но вот вопрос - а она там, в этой машине, только одна? Спросите оператора робота, не работает ли он случайно на какой-либо реалтаймовой версии юникса?

Понятия не имею, какая там программа управления, но ИМХО это прямая арифметическая зависимость: сдвинулся сенсор на 1 мм - сдвигается манипулятор в ту же сторону на 5 мм , сдвинулся сенсор на 2 мм - сдвигается манипулятор в ту же сторону на 10 мм и так далее.. . т.е ошибку допустить практически невозможно.

Originally posted by Гуманоид:

Скажите - а как люди вообще работают под таким постоянным риском? Никогда не ошибаются только мифические боги.

На самом деле все достаточно просто - существуют "протоколы действия". Вот, например, врач - при обращении пациента он согласно протоколу должен померить АД, пульс, частоту дыхания, температуру. Если обнаружит повышение температуры - должен назначит анализ крови. При изменении картины крови - назначить дополнительные анализы - опять таки в соответствии с протоколом). Если ты поступаешь в соответствии с инструкцией, вероятность ошибки сводится к минимуму (а даже если положительный результат лечения не будет достигнут - вины врача в этом не будет и судить его не за что).

Другое дело, что строгое следование протоколам - это самый безопасный, но далеко не самый эффективный и экономичный путь. Хороший специалист всегда может рискнуть - но и цена ошибки для него будет высокой.. .

Gladiator:

Понятия не имею, какая там программа управления, но ИМХО это прямая арифметическая зависимость: сдвинулся сенсор на 1 мм - сдвигается манипулятор в ту же сторону на 5 мм , сдвинулся сенсор на 2 мм - сдвигается манипулятор в ту же сторону на 10 мм и так далее.. . т.е ошибку допустить практически невозможно.

Увы, нет. Это самый верхний уровень абстракции. На самом деле сначала работает биос джойстика, перерабатывая данные его магнитных или резистивных сенсоров в вектора движения рукоятки, потом идёт накопление векторных данных джойстика, отброс вибрационных колебаний (контроль мёртвой зоны), дабы получить только ваш первый исходный сдвиг на миллиметр (это работа драйвера джойстика, обычно стоящего поверх операционной системы) После система передаёт эти данные программе робота, осуществив предварительную передачу данных по сети (локальной или всему интернету), программа этот миллиметровый сдвиг сравнивает с параметрами блокировки, смотрит на текущее положение манипулятора (опять запросы данных к драйверам робота), на действующие на манипуляторы силы (обратная связь), после чего высчитывает команды на драйверы каждого отдельно взятого сервомотора. Драйверы (это микросхемки такие) переводят команды в напряжения на моторе, которыми будут перепозиционировать скальпель или что у него там, что само по себе нетривиальная задача.

Данное описание КРАЙНЕ поверхностно и сокращённо.

Я даже больше скажу. Обычный взгляд пользователя на работу современной техники даже более наивен, чем взгляд мясника с рынка на микрохирургию. Знаете, как для обывателя выглядит трансплантация сердца? Разрезал грудь, отрезал сердце от сосудов, пришил сосуды другого сердца, треснул током, чтоб завелось, зашил грудь. ВСЁ! Ножиком резать, пуговицы пришивать и шланг душевой прикручивать, чтоб не протекало, все умеют. И за что такие бабки плотют, а?!

Другое дело, что строгое следование протоколам - это самый безопасный, но далеко не самый эффективный и экономичный путь. Хороший специалист всегда может рискнуть - но и цена ошибки для него будет высокой...

Рискну предположить, что требования администрации в коммерческих больницах просто несовместимы с полным следованием протоколам. Элементарно не успеть.

даже если положительный результат лечения не будет достигнут - вины врача в этом не будет и судить его не за что

То есть, фактически, тот же автомеханик должен прогнать установленную группу тестов, и если после это тормоза всё равно откажут, и некий хуман влетит в столб - механик уже не виноват. Это уже лучше.

Originally posted by Гуманоид:

Увы, нет. Это самый верхний уровень абстракции. На самом деле сначала работает биос джойстика, перерабатывая данные его магнитных или резистивных сенсоров в вектора движения рукоятки, потом идёт накопление векторных данных джойстика, отброс вибрационных колебаний (контроль мёртвой зоны), дабы получить только ваш первый исходный сдвиг на миллиметр (это работа драйвера джойстика, обычно стоящего поверх операционной системы) После система передаёт эти данные программе робота, осуществив предварительную передачу данных по сети (локальной или всему интернету), программа этот миллиметровый сдвиг сравнивает с параметрами блокировки, смотрит на текущее положение манипулятора (опять запросы данных к драйверам робота), на действующие на манипуляторы силы (обратная связь), после чего высчитывает команды на драйверы каждого отдельно взятого сервомотора. Драйверы (это микросхемки такие) переводят команды в напряжения на моторе, которыми будут перепозиционировать скальпель или что у него там, что само по себе нетривиальная задача.Данное описание КРАЙНЕ поверхностно и сокращённо.

Не могу спорить с профессионалом

Я сталкивался пару раз с некорректной работой джойстика, но это всегда выявлялось на этапе подготовки к операции и решалось калибровкой. О проблемах во время проведения оперативного вмешательства я никогда и ни от кого не слышал.. .

Впрочем, роботы-манипуляторы в хирургии - это не более чем модный антураж и не имеют практического преимущества перед человеком, не думаю что в ближайшем будущем перспектива изменится.

Originally posted by Гуманоид:

Рискну предположить, что требования администрации в коммерческих больницах просто несовместимы с полным следованием протоколам. Элементарно не успеть.

В Израиле требования администрации для врача значат несопоставимо меньше, чем требования профсоюза врачей и Минздрава -т при конфликте интересов вся администрация посылается лесом на чистейшем русском языке

Originally posted by Гуманоид:

То есть, фактически, тот же автомеханик должен прогнать установленную группу тестов, и если после это тормоза всё равно откажут, и некий хуман влетит в столб - механик уже не виноват. Это уже лучше.

Именно так - в этом случае все претензии предъявляются производителю автомобиля. Поэтому практически каждая компания время от времени производят отзывы машин для устранения возможных неисправностей...

Originally posted by Гуманоид:

Знаете, как для обывателя выглядит трансплантация сердца? Разрезал грудь, отрезал сердце от сосудов, пришил сосуды другого сердца, треснул током, чтоб завелось, зашил грудь. ВСЁ!

Ну, в общем, так оно и есть Работа хирурга при пересадки сердца далеко не самая сложная и ответственная...

Впрочем, роботы-манипуляторы в хирургии - это не более чем модный антураж и не имеют практического преимущества перед человеком, не думаю что в ближайшем будущем перспектива изменится.

Я вот как раз обратного боюсь.. . Чем больше будет робототехники и прочей автоматики в жизненноважных отраслях (не только в медицине) - тем чаще начнут проявляться программные сбои, и тем больше будет опасность хака. (уже импланты-кардиостимуляторы взламывали (у них радиоконтроль есть), было дело)

Ну, в общем, так оно и есть

Куды?! А нерв пришить?!

Originally posted by Гуманоид:

Куды?! А нерв пришить?!

А нерв как раз и не шьется - у сердца автономная система иннервации

при конфликте интересов вся администрация посылается лесом на чистейшем русском языке

Точно ли? Может всё же светило медицинской науки и может послать, а врач обычной категории вынужден таки беречь своё рабочее место?

у сердца автономная система иннервации

Да вроде бы не вся она автономная. С блуждающим нервом есть связь, чувствительные нервы отходят.. . Совсем что ли без связи с мозгом насос оставляют? Тогда и мозг в шоке, и насос качает эдак с прикидки, на глазок.. .

Originally posted by Гуманоид:

Точно ли? Может всё же светило медицинской науки и может послать, а врач обычной категории вынужден таки беречь своё рабочее место?

Абсолютно точно - "рабочему работяге" ничего не грозит, скорее наоборот - чем менее заметную должность занимает человек, тем труднее его уволить. Это профсоюз

Originally posted by Гуманоид:

Совсем что ли без связи с мозгом насос оставляют? Тогда и мозг в шоке, и насос качает эдак с прикидки, на глазок...

Совсем. В исключительных случай ставят водитель ритма.

Совсем. В исключительных случай ставят водитель ритма.

А пришить совсем никак не получается? Ну хотя бы потом, когда сердце уже приросло, повторной операцией, когда времени побольше. Руки-ноги пришивают, нервы сшивают (даже если чужие руки-ноги), а тут что такое чудесатое? Может просто лень-матушка?
Мозгу ведь точно нехорошо будет, он коленца начнёт отплясывать. От простой качки вон какая морская болезнь случается. От ампутаций фантомные боли. А тут сердце.. . Понимаю, что пока прирастать нерв будет - будут ложные сигналы проходить - ну вот как раз водителем ритма и купировать. Или там что-то особенное?

Абсолютно точно - "рабочему работяге" ничего не грозит, скорее наоборот - чем менее заметную должность занимает человек, тем труднее его уволить. Это профсоюз

Походу в Израиле работает КЗОТ из СССР.

P.S. Мне серьёзно очень интересно, поясните, плиз, про нерв.

Ну и по теме обсуждения - вот и пример:
Процедура катетеризации сердца пациента в американской больнице была прервана антивирусом
https://geektimes.ru/post/275928/

Originally posted by Гуманоид:

P.S. Мне серьёзно очень интересно, поясните, плиз, про нерв

Дело в том, что в этом нет необходимости. Мозг не единственный регулятор сердца - ритм сокращений и объем выброса определяется гормонами (адреналин, норадреналин) и тонусом сосудов (барорецепторами) по закону Старлинга. На этом фоне влияние симпатической и парасимпатической нервной системы оказывает минимальное корректирующее влияние.. .

Кстати, пересадка ЛЮБЫХ внутренних органов происходит без восстановления целостности нервных волокон.

Originally posted by Гуманоид:

Походу в Израиле работает КЗОТ из СССР.

Да, к сожалению.. . Это называется - социализм с человеческим лицом

Originally posted by Гуманоид:

Процедура катетеризации сердца пациента в американской больнице была прервана антивирусомhttps://geektimes.ru/post/275928/

Описанный случай не несет опасности для жизни и здоровья пациента, речь идет о сбое диагностического оборудования (вернее - о блоке записи параметров). Такое случается сплошь и рядом, просто редко техника сбоит в операционной - но врачи вполне могли продолжать процедуру катетеризации и без диагностического блока...

влияние симпатической и парасимпатической нервной системы оказывает минимальное корректирующее влияние...

Это влияние через нервы на сердце. А как насчёт обратного влияния? Какие гормоны начнёт высвобождать мозг при полном обрыве связи с сердцем? В технических отделах мозга будет паника на уровне хаоса...

Кстати, пересадка ЛЮБЫХ внутренних органов происходит без восстановления целостности нервных волокон.

Пробовали ли вообще восстанавливать эти связи, или просто так, взяли и решили, что это не надо, а эволюция, эти связи вырастившая - дура?

Серьёзно, не могу понять. На мой взгляд это выглядит как ремонт по типу "фурычит вроде - и так сойдёт, а эта кучка деталей - лишняя"

Гуманоид:

Это не совсем верная точка зрения. Программа принимает данные с системы управления, транслирует их в внутренний формат, передаёт к роботу, обрабатывает входные данные, в том числе контролируя хирурга на заведомо выходящие за рамки операционного поля действия, на основании данных сенсоров робота, транслирует команды на сервомоторы роботу, учитывая обратную связь. На любом из этих этапов возможен сбой.

А сбой таки вполне может выглядеть как самостоятельные действия робота.

так то так, станок с чпу так и работает- зажали ему в патрон заговку строго ф 100 мм и длиной 450 мм (к примеру), и он пошёл по программе точить-установили другую, и опять по той же программе работать. А каждый человек сделан не идеально, геометрия отличается у одного и у другово, и вот это никакой робот не сможет сам отсканировать( впринципе ,и нечем), обработать, и сам себе сделать программу операции