May. 15th, 2011

sklavit: (Default)
Основная проблема с компьютерными экспертными системами не в их эффективности, и не в их компетентности — в этом они, зачастую, превосходят людей — а в этико-правовом понятии ответственности.
Грубо говоря, что делать, если компьютерный доктор ошибется, назначит неправильное лечение и пациент умрет. Или пилот погибнет. Или космонавт. Кто будет ответственен?
Я как раз на днях вернулся с конференции, и, похоже, на этот вопрос нет ответа. Т.е. эту проблему игнорируют, а эксперту-машине разрешают работать только и исключительно в паре с человеком. Но ведь это вопроса не снимает, не так ли? А что, если во время аварии люди будут без сознания или не будет времени разбираться, что делать? Что тогда? Кто будет виноват за последствия?
Вообще-то, правильно было бы написать: «кто будет ответственен», но я написал именно «виноват», т.к., мне кажется, именно в этом всё дело. Человеку нужно знать виноватого, чтобы поставить на колени и зверски... потребовать компенсации. А какую компенсацию можно потребовать с машины? Ведь человеческая жизнь бесценна, а машина — ничто, презренный просто кусок метала. И останется после этого в душе чувство несправедливости, что даже злость сорвать не на ком.

С логической точки зрения, ситуация парадоксальная. Возьмем, для примера, экспертную систему MYCIN разработанную в 70-х для диагностики смертельно опасных быстротекущих инфекций. Исследование показало, что MYCIN лидирует по всем выбранным показателям: по доли приемлемых предписаний (65% против 42.5% - 62.5%); по доли предписаний, приемлемых с точки зрения большинства оценщиков (0.7 против 0.5-0.3); по эффективности покрытия патогенна (всегда назначался антибиотик против истинного патогенна и назначалось меньшее количество лекарств). [Buchanan B. at al., Antimicrobial Selection by a Computer, JAMA, Sept 21, 1979, Vol. 242, No. 12] Не смотря на это, MYCIN никогда не применялась в живой медицинской практике. Почему? Вопрос ответственности: для наполнения базы знаний использовались множество экспертов и журнальных статей. Не ясно, кто несет ответственность, за её решения. А ведь она могла бы спасать на 20-30% людей больше, чем врачи-люди. Вот такой парадокс.

Словом, получается, что ответственность может нести только человек.
Но почему? И что такое вообще эта ответственность?

(Косвенно эта тема касается тематики «Меганезии», т.к. возможно затрагивается тема обычаи vs технологии.)

Profile

sklavit: (Default)
sklavit

January 2012

S M T W T F S
123 4567
891011121314
15161718192021
22232425262728
293031    

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Jul. 28th, 2017 02:49 am
Powered by Dreamwidth Studios