sklavit: (Default)
[personal profile] sklavit
Основная проблема с компьютерными экспертными системами не в их эффективности, и не в их компетентности — в этом они, зачастую, превосходят людей — а в этико-правовом понятии ответственности.
Грубо говоря, что делать, если компьютерный доктор ошибется, назначит неправильное лечение и пациент умрет. Или пилот погибнет. Или космонавт. Кто будет ответственен?
Я как раз на днях вернулся с конференции, и, похоже, на этот вопрос нет ответа. Т.е. эту проблему игнорируют, а эксперту-машине разрешают работать только и исключительно в паре с человеком. Но ведь это вопроса не снимает, не так ли? А что, если во время аварии люди будут без сознания или не будет времени разбираться, что делать? Что тогда? Кто будет виноват за последствия?
Вообще-то, правильно было бы написать: «кто будет ответственен», но я написал именно «виноват», т.к., мне кажется, именно в этом всё дело. Человеку нужно знать виноватого, чтобы поставить на колени и зверски... потребовать компенсации. А какую компенсацию можно потребовать с машины? Ведь человеческая жизнь бесценна, а машина — ничто, презренный просто кусок метала. И останется после этого в душе чувство несправедливости, что даже злость сорвать не на ком.

С логической точки зрения, ситуация парадоксальная. Возьмем, для примера, экспертную систему MYCIN разработанную в 70-х для диагностики смертельно опасных быстротекущих инфекций. Исследование показало, что MYCIN лидирует по всем выбранным показателям: по доли приемлемых предписаний (65% против 42.5% - 62.5%); по доли предписаний, приемлемых с точки зрения большинства оценщиков (0.7 против 0.5-0.3); по эффективности покрытия патогенна (всегда назначался антибиотик против истинного патогенна и назначалось меньшее количество лекарств). [Buchanan B. at al., Antimicrobial Selection by a Computer, JAMA, Sept 21, 1979, Vol. 242, No. 12] Не смотря на это, MYCIN никогда не применялась в живой медицинской практике. Почему? Вопрос ответственности: для наполнения базы знаний использовались множество экспертов и журнальных статей. Не ясно, кто несет ответственность, за её решения. А ведь она могла бы спасать на 20-30% людей больше, чем врачи-люди. Вот такой парадокс.

Словом, получается, что ответственность может нести только человек.
Но почему? И что такое вообще эта ответственность?

(Косвенно эта тема касается тематики «Меганезии», т.к. возможно затрагивается тема обычаи vs технологии.)
From:
Anonymous( )Anonymous This account has disabled anonymous posting.
OpenID( )OpenID You can comment on this post while signed in with an account from many other sites, once you have confirmed your email address. Sign in using OpenID.
User
Account name:
Password:
If you don't have an account you can create one now.
Subject:
HTML doesn't work in the subject.

Message:

 
Notice: This account is set to log the IP addresses of everyone who comments.
Links will be displayed as unclickable URLs to help prevent spam.

Profile

sklavit: (Default)
sklavit

January 2012

S M T W T F S
123 4567
891011121314
15161718192021
22232425262728
293031    

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Jul. 22nd, 2017 02:52 pm
Powered by Dreamwidth Studios