sklavit: (Default)
Основная проблема с компьютерными экспертными системами не в их эффективности, и не в их компетентности — в этом они, зачастую, превосходят людей — а в этико-правовом понятии ответственности.
Грубо говоря, что делать, если компьютерный доктор ошибется, назначит неправильное лечение и пациент умрет. Или пилот погибнет. Или космонавт. Кто будет ответственен?
Я как раз на днях вернулся с конференции, и, похоже, на этот вопрос нет ответа. Т.е. эту проблему игнорируют, а эксперту-машине разрешают работать только и исключительно в паре с человеком. Но ведь это вопроса не снимает, не так ли? А что, если во время аварии люди будут без сознания или не будет времени разбираться, что делать? Что тогда? Кто будет виноват за последствия?
Вообще-то, правильно было бы написать: «кто будет ответственен», но я написал именно «виноват», т.к., мне кажется, именно в этом всё дело. Человеку нужно знать виноватого, чтобы поставить на колени и зверски... потребовать компенсации. А какую компенсацию можно потребовать с машины? Ведь человеческая жизнь бесценна, а машина — ничто, презренный просто кусок метала. И останется после этого в душе чувство несправедливости, что даже злость сорвать не на ком.

С логической точки зрения, ситуация парадоксальная. Возьмем, для примера, экспертную систему MYCIN разработанную в 70-х для диагностики смертельно опасных быстротекущих инфекций. Исследование показало, что MYCIN лидирует по всем выбранным показателям: по доли приемлемых предписаний (65% против 42.5% - 62.5%); по доли предписаний, приемлемых с точки зрения большинства оценщиков (0.7 против 0.5-0.3); по эффективности покрытия патогенна (всегда назначался антибиотик против истинного патогенна и назначалось меньшее количество лекарств). [Buchanan B. at al., Antimicrobial Selection by a Computer, JAMA, Sept 21, 1979, Vol. 242, No. 12] Не смотря на это, MYCIN никогда не применялась в живой медицинской практике. Почему? Вопрос ответственности: для наполнения базы знаний использовались множество экспертов и журнальных статей. Не ясно, кто несет ответственность, за её решения. А ведь она могла бы спасать на 20-30% людей больше, чем врачи-люди. Вот такой парадокс.

Словом, получается, что ответственность может нести только человек.
Но почему? И что такое вообще эта ответственность?

(Косвенно эта тема касается тематики «Меганезии», т.к. возможно затрагивается тема обычаи vs технологии.)
sklavit: (Default)
Некоторое время назад я расспрашивал о доверии и обещал поделиться результатами. Итак:

Доверие

Обзор источников показывает два компонента доверия:
а именно... )
sklavit: (Default)
В статье "Free Will: A Rational Illusion" by Itzhak Gilboa (2007) автор пытается философски проанализировать вопрос свободы воли, но допускает несколько прискорбных ошибок, сводящих на нет все рассуждение.
Во-первых, он сразу ставит субъекта в мысленном эксперименте в ситуацию, когда у субъекта нет выбора.
Во-вторых, он рассматривает только логически обоснованные выборы.
В-третьих, он считает, что возможен абсолютно точный прогноз выбора конкретным человеком в конкретной ситуации.
С такими странными предпосылками он приходит к интересному выводу: свобода воли человека в его способности к сомнению.

Как показывают некоторые эксперименты, свобода действия есть даже у мухи. Другое дело, что человек "волевым усилием" может выбрать какую-то модель поведения (менее или более сложную) и затем "волевым усилием" же её в дальнейшем и придерживаться или её изменить в силу или вопреки чему-то, или даже случайно.
sklavit: (Default)
По результатам прочтения нескольких книг хочется отметить следующее:

У Макаренко воспитание базируется на трёх китах: коллектив, дисциплина и труд.
Это не просто труд (т.е. вложение сил в деятельность) — это оцененный и оплаченный труд. Вознаграждение за труд обязательно: оно стимулирует деятельность, повышает заинтересованность. Труд наполняет время детей, создает условия их обучения, ставит перед ними задачи, что в случае заинтересованности в труде приводит к развитию инициативности и эрудированности в соответствующей области. Труд удовлетворяет потребность в нужности.
Дисциплина — это не муштра, нет. Это система традиций, которые, с одной стороны, скрепляют коллектив вместе, обеспечивают удовлетворение потребности в принадлежности; а, с другой — оптимизируют и структурируют детское время, что повышает качество жизни и удовлетворяет потребность в структурированности.
Коллектив выполняет регулирующую функцию: каждое действие немедленно обретает обратную связь, подкрепление положительное или отрицательное. И попутно служит удовлетворению потребности в принадлежности и нужности.

Внимание воспитателя должно быть направлено на формирование уважения и само-уважения, чувства собственного достоинства, чувства чести и долга, здоровой гордости, но в то же время и доверия.

Последняя подборка цитат:
... )

Пазл

Jun. 13th, 2009 10:30 pm
sklavit: (Default)
         Собственно, а действительно, с чего это вдруг для человека свобода всегда неизменно сопровождается ответственностью и невозможна без осознанности?
*         *         *
         У Лема есть статья «Тайна китайской комнаты», в которой он приводит пример человека, собирающего пазл с изнанки, не видя осмысленной картинки на лицевой стороне. А что, если наша жизнь — это вот такой себе Пазл, лишь изнанку которого мы видим; все выступы и впадины кусочков которого введены искусственно только для того, чтобы мы все же могли (пусть и с огромными усилиями) собрать Пазл, причем вовсе не видя его лицевой стороны. Причем это неявно предполагает, что на лицевой стороне содержится что-то осмысленное, нужное кому-то; что этот кто-то существует, или хотя бы существовал когда-то.
         Если пазл большой и сложный — бывают казусы, когда форма совершенно чуждых друг другу кусочков случайно похожа, и невнимательный сборщик прицепит кусочек не туда. Вот и висит он там, пока его неуместность не станет совсем очевидной, притягивая к себе подходящие ему кусочки — но такие же чуждые изначальному замыслу. А ведь так может вырасти солидных размеров фрагмент пазла, вроде бы и правильно собранный, но совершенно не на своем месте.
         Хорошо, если пазл всего один. Тогда есть надежда, что неправильную область заметят и переставят в правильное место... Если только творец ничего не напутал, и там действительно нет одинаковых кусочков. А если пазлов несколько? А если их кусочки перемешались? Опять таки, хотелось бы верить, что различные пазлы совершенно несовместимы… Хотелось бы верить.
         И вот, представьте, когда-нибудь, раньше или позже, допустим, земляне сталкиваются с «жизнью» планеты Х. Но какая неожиданность: иксиане даже не подозревают, что есть какой-то там Пазл, что люди его собирают и вовсе не знают — зачем. Может, иксиане смогут увидеть Пазл с лицевой стороны. Спорный вопрос: поздоровится ли после этого людям? Но даже, если они не смогут увидеть лицо, при определенных обстоятельствах они смогут нащупать изнанку. Например, иксиане, так или иначе, могут создавать кусочеки Пазла произвольной формы. Отслеживая его отношения с людьми они смогут нащупать сам Пазл. Вот только что это им даст?
         С другой стороны, встраивая в создаваемое людьми полотно кусочки правильно подобранной формы, они смогут произвольно менять исходный замысел Творца Пазла. Совершенно произвольно. Если сил хватит (авторы фильма «Темный город» считают, что не хватит :).
         Нерешенным остается вопрос: что же случится, когда Пазл будет окончательно правильно собран?
Нас, муравьев его собиравших, просто больше не станет (наступит конец света, как и в легенде о буддийских монахах и Ханойской башне); или нам дадут новый пазл? А может Пазл просто смахнут рукой, как это принято у тибетских монахов, нарисовав песком сложнейший узор отражающий структуру Космоса, смахнуть его, что символизирует… Впрочем, а какое нам дело до того, что это будет символизировать?
sklavit: (Default)
« »
С началом 2010 года мировой Интернет достигнет максимума своей пропускной информационной способности, и его пользователей ожидают многочисленные неожиданные сбои и перерывы в работе компьютеров. С таким прогнозом выступила аналитическая технологическая служба «Nemertes», передает УНИАН.

Эксперты прогнозируют, что с 2012 года число пользователей Интернета достигнет такого количества, что он уже не сможет обеспечить нормальную работу компьютерных сетей и будет постоянно находиться в полупарализованном состоянии.

По словам специалистов «Nemertes», открытая для свободного пользования в 1989 году мировая электронная паутина, как первоначально казалось, обладала беспредельным потенциалом для передачи и получения информации, однако уже через 10 лет она вплотную подошла к пределу своих возможностей.
новости.

В наше время очень популярна (например, Google Docs) парадигма «Облачной обработки данных» — когда информация постоянно хранится на серверах в сети Интернет и временно кэшируется на клиентской стороне, например на персональных компьютерах, игровых приставках, ноутбуках, смартфонах. Преимущество в том, что пользователь не должен заботиться об инфраструктуре, операционной системе и собственно программном обеспечении, с которым он работает. В частности, очень ресурсоемкие приложения можно запускать на простеньком телефоне.
Недостаток всего этого чуда в том, что оно строится на уверенности, что сеть Интернет в состоянии удовлетворить потребности пользователей в обработке данных — а это сейчас уже под вопросом. По крайней мере при централизованной структуре информационных потоков.
Мне выход видится в максимальной децентрализации структуры, вплоть до горизонтальной совокупности равноправных пользователей с равными правами (например, на базе одноранговых сетей, например, BitTorrent, Jabber, Skype). Такие сети могут обеспечивать и полную анонимность (Freenet), что будет способствовать бесплатному распространению информации. Но в то же время можно будет дистанционно продавать вычислительные мощности своего оборудования тем, кому они нужнее.
sklavit: (Default)
Сначала цитата:
"...чтобы уметь молчать в нужный момент, а не просто отмалчиваться, нужно научиться сначала свободно говорить.
...чтобы быть сдержанным, а не скованным, нужно сначала позволить себе следовать своим страстям.
...чтобы воспитать силу воли, надо сначала признать, что ты можешь оказаться слабаком.
А потом по кусочкам собирать себя, как пазл, отбрасывая лишние куски и выбирая те, что будут сидеть, как влитые. И существование в такой шкуре будет по-настоящему комфортным и свободным.
Да, в процессе ты получаешь более уязвимым, чем обычно, но, по-моему, это того стоит. А после завершения (базового, понятно, что мелкие корректировки будут вноситься и дальше, всю жизнь), тот кусочек, который станет на место выкинутого, будет действительно подходить." (с) quentiss

Немного игры слов (тоесть дальнейшие рассуждения следуют из структуры речи и особенностей человеческого восприятия): для того, чтобы что-то измерить нужна мера. Т.е. в простейшем случае линейной величины нужно зафиксировать меру двух каких-либо точек (реперных точек; например, для температуры по Цельсию это точки замерзания и кипения воды). В нелинейном случае реперных точек должно быть больше. Для иерархических систем можно фиксировать меры элементарных элементов.

Перейдем к практике: "уметь молчать в нужный момент" -- имеется в виду "знать, когда, сколько и чего нужно говорить". Очевидно, тут можно пользоваться догмами. А можно и самому попытаться разобраться. Тоесть научиться измерять, оценивать свои возможные слова. Чтобы измерять нужна мера. Т.е. надо попробовать разные варианты речи. Вообще говоря, трех вариантов "как всегда", "отмалчиваться", "свободно говорить" очевидно мало, т.к. все равно можно ляпнуть что-то не так, хотя и вовремя и по теме. (У меня появилось подозрение, что "молчать в нужный момент" и "говорить свободно" вообщето синонимы, но тогда рушится смысл цитаты, где идет противопоставление.)
Далее, допустим мы научились бывать во всех этих состояниях, у нас появилась мера. Далее автор цитаты предлагает на основании этой меры выбрать один единственный способ действия, и догматизировать его, выкинув все остальные, оставив себе минимальную свободу действий в рамках "...мелких корректировок, которые будут вноситься и дальше, всю жизнь". Спрашивается, где тут после догматизации настоящяя свобода?
Мне представляется правильным не уничтожать свои труды, а сохранять их. Если нельзя (или невыгодно) хранить все, то нужно позаботиться, чтобы остались корректные реперные точки. Я считаю, что крайние варианты почти наверное подлежат сохранению. Если очень повезет, то на большую часть жизни нам хватит одного "кусочка", но все равно необходимо помнить о границах его применимости. Кроме того, эти дальние кусочки могут где-то совершенно неожиданно "всплыть".

Что же до того, что "существование в такой шкуре будет по-настоящему комфортным" -- согласен, это непосредственно следует из процедуры построения этой самой шкуры. Вот только это жизнь "в золотой клетке" с "розовыми стеклами": меру ведь разрушили, а значит видим мир в одном цвете -- в комфортном цвете.

>"Да, в процессе ты получаешь более уязвимым" -- По сравнению с чем? С исходным состоянием, когда еще нет меры и некомфортно; С предлагаемым конечным состоянием, когда уже нет меры и комфортно... -- оба эти состояния "защищены" розовыми очками: из них просто не видно стрессовых ситуаций. Да, психологические защиты спасут от психологических перегрузок, но от реальных проблем (а они возникнут, ведь реальности-то не видно, значит рано или позно...) они не спасут.

Profile

sklavit: (Default)
sklavit

January 2012

S M T W T F S
123 4567
891011121314
15161718192021
22232425262728
293031    

Syndicate

RSS Atom

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Jul. 28th, 2017 02:34 am
Powered by Dreamwidth Studios