Home

Advertisement

 
 
12 September 2007 @ 10:43 am
КОМПЬЮТЕРНЫЙ ЭКСПЕРИМЕНТ  

Давным-давно, году в 1973, в одном физическом институте был теоретический отдел. До эры персональных компьютеров было еще далеко, а ходить на Вычислительный центр, который в институте, конечно, был, с колодами перфокарт для отладки и прогона программ старшим научным сотрудникам было некогда и неинтересно. Этим занимались студенты, аспиранты и младшие научные сотрудники. Всё решительно изменилось, когда теоротдел приобрел вычислительную машину (то есть уже computer) Wang2200. Это чудо зарубежной техники имело память всего в несколько десятков килобайт, алфавитно-цифровой монохромный дисплей, на котором светились зеленоватые символы, и внешнюю память в виде кассетного магнитофона, встроенного в корпус дисплея. Вместо огромных бобин с магнитной лентой использовались маленькие компакт-кассеты, которые легко умещались в кармане и еще легче в портфеле. Никаких колод перфокарт не было и в помине! Компакт-кассеты с программами и данными в одну из соседних комнат было по силам носить даже старшим научным сотрудникам. Среди них возник оживленный интерес к освоению компьютерного программирования, и солидные доктора наук занялись изучением Бейсика. Wang «понимал» только этот язык программирования, намертво прошитый в ПЗУ. Изучать программирование на простых вычислительных задачах оказалось просто и неинтересно для настоящих ученых. Некоторым физикам хотелось приобщиться к более глубоким возможностям компьютеров и идеям КИБЕРНЕТИКИ. Один из них, старший научный сотрудник доктор физико-математических наук Е.М.М., зная о том, что кибернетики придумали самообучающиеся игровые алгоритмы, познакомился с лежащими в их основе принципами, и написал самообучающуюся программу для игры в классические «крестики-нолики». В программе использовалась функция оценки перспективности хода, которая задавалась с помощью массива весовых коэффициентов, и блок апостериорного, по итогу всей партии, анализа уже сделанных ходов, который мог изменять эти весовые коэффициенты так, чтобы программа повышала качество своей игры по мере накопления опыта анализа ответных ходов противника.

Сыграв несколько десятков партий со своей программой доктор Е.М.М. убедился в том, что ответные ходы компьютера постепенно становятся все осмысленнее. Вот только тратить время на  тренировку компьютера очень не хотелось. Тогда Е.М.М. пришло в голову усовершенствовать программу. Он решил вести в код еще один массив весовых коэффициентов и заставить программу делать один ход с помощью одного массива, а ответный – с помощью второго, чтобы компьютер играл сам с собой! Сказано-сделано. Машина была запущена для игры на несколько часов, а ученый ушел работать к себе в кабинет. К концу рабочего дня доктор вернулся к компьютеру, который успел сыграть сам с собой многие тысячи партий. Он переключил программу на игру с человеком и начал играть. Компьютер ставил свои нолики в совершенно случайные клетки и проиграл через три хода. ЕММ попробовал переключить программу на второй массив весовых коэффициентов, накопленных, когда машина играла сама с собой. Результат был тот же!

Ученый задумался. Как вышло, что за несколько часов, компьютер, играя сам с собой, ничему не научился? Ответ сначала показался простым и почти очевидным: ведь с самого начала оба «кибернетических игрока» делали случайные ходы, и их анализ не улучшал весовых коэффициентов функций оценки хода. Это можно было заранее предположить теоретически. Но доктор физико-математических наук Е.М.М. был физиком-теоретиком и поэтому хорошо знал, что физика – наука экспериментальная. Получалось, он неожиданно ЭКСПЕРИМЕНТАЛЬНО ДОКАЗАЛ, что

 

  1. ДУРАК*) ДУРАКА НИЧЕМУ НЕ МОЖЕТ НАУЧИТЬ.
  2. ДУРАК У ДУРАКА НИЧЕМУ НЕ МОЖЕТ НАУЧИТЬСЯ.

 
Как ученый Е.М.М. знал, что в науке отрицательный результат – тоже результат, но, подумав немного, он вспомнил, как сначала сам играл с компьютером, и программа действительно чему-то обучалась, постепенно повышая уровень своей игры, а потом, пожалев свое время, ушел, предоставив компьютеру играть самому с собой, и сделал еще два вывода из опыта взаимодействия со своей программой:

 

  1. ДУРАК МОЖЕТ ПОСТЕПЕННО НАУЧИТЬСЯ У УМНОГО**).
  2. УМНОМУ ТРЕБУЕТСЯ МНОГО ВРЕМЕНИ, ЧТОБЫ НАУЧИТЬ ДУРАКА.

 
Доктор поразмышлял бы еще, но пора было возвращаться в свой кабинет и дописывать статью в физический журнал, и он подумал только, что

 

  1. ВРЕМЕНИ ВСЕГДА НЕДОСТАТОЧНО.

 
Прошло много лет. Интернет и компьютеры доступны всем, а эксперименты упорно продолжаются...

 

*) Термин, использованный Е.М.М., который означает «партнер, не умеющий играть».

**) Термин, использованный Е.М.М., который означает «партнер, умеющий играть».

 
 
( Post a new comment )
The Master of Dreams[info]blessmaster on September 15th, 2007 01:44 pm (UTC)
Действительно интересно получилось. Но в результате получилась не обучающаяся программа (в привычном людям понимании этого слова), а адаптирующаяся к среде система :)

Спасибо за рассказ
[info]rock_25 on September 15th, 2007 07:14 pm (UTC)
Спасибо за отзыв!

Я, собственно, написал не о кибернетике, а о жизни.
The Master of Dreams[info]blessmaster on September 15th, 2007 08:21 pm (UTC)
Ну, именно потому что жизненно, потому и отзыв :)
Такие проколы бывают не только когда осваиваешь программирование, но и по жизни :)
Особенно после пары бессонных ночей, над проектом, от которого не можешь оторваться :)
polenova[info]polenova on September 16th, 2007 04:03 pm (UTC)
Замечательная история.
Я еще люблю историю программы Элиза.
[info]rock_25 on September 16th, 2007 08:33 pm (UTC)
Спасибо, Лиля!

Только там дело было в серьёзном "критерии Тьюринга" для компьютерных программ, а здесь - в проблемах взаимодействия людей, с которыми я столкнулся в ЖЖ. Так что рассказик - просто мой "крик души". Есть еще несколько наблюдений, которые я успел сделать в ЖЖ, но пока еще не пришло время их тоже как-то изложить в метафорической форме (см. п. 5 в рассказе). Кроме того, к счастью, в ЖЖ есть люди, с которыми можно (и приятно) общаться без метафор :)
polenova[info]polenova on September 17th, 2007 12:47 am (UTC)
История Элизы тоже по-своему феномен ЖЖ, т.е. не ЖЖ, но виртуального общения. Ее ведь сделали в те времена, когда виртуальное общение никому в голову не приходило.
[info]rock_25 on September 17th, 2007 07:41 am (UTC)
Программа "Элиза" была написана в конце 60-х (кажется в 1966), как насмешка над критерием Тьюринга (предложенным в его статье "Может ли машина мыслить" 1950-го года). Или Вы имеете в виду, что-то относящееся к ЖЖ? Расскажите, пожалуйста!
С моей точки зрения ЖЖ дает замечательный материал для исследований на тему "Может ли человек мыслить".
Например, один из активных блоггеров ЖЖ в доказательство того, что В.Л.Гинзбург плохо относится только к православной религии, но хорошо к иудейской, рассовал по всему ЖЖ фотографии Виталия Лазаревича в синагоге перед ханукальным восьмисвечником, сделанную в 2003 году, когда ВЛ получил свою Нобелевскую премию. На фотографии рядом с раввином в шляпе стоит ВЛ, сверкая голой лысиной и явно демонстрируя всем присутствующим, что пришел как гость, а не как единоверец. Заподозрить, что человек 1916-го года рождения, воспитывавшийся в религиозной еврейской семье, не знает про кипу, невозможно. Спрашивается - может ли мыслить человек, рассылавший эти фотографии с целью "доказать приверженность Гинзбурга иудаизму"?


polenova[info]polenova on September 20th, 2007 04:07 am (UTC)
Элиза копировала один из приемов психоанализа ( забыла название), когда терапевт задает следующий вопрос пефразируя последний ответ собеседника. Реальный психотерапевт, естественно вносит в систему коррективы, но Элиза корректировать не умела. Неожиданный эффект состоял в том, что через несколько вопрос человек начинал своим воображением Элизу очеловечивать и вступал с ней в отношения, как с реальным психотерапевтом, беседа закручивалась, человек вываливал все больше и больше подробностей своей жизни, эмоций, проблем - получалось, что живой терапевт не очень-то и нужен. Даже некоторые психотерапевты поверили, что Элиза не просто делает формальный анализ фразы и строит следующий вопрос, а ведет сеанс.
Разве это не похоже на некоторые виртуальные беседы?
[info]rock_25 on September 20th, 2007 06:23 am (UTC)
Конечно похоже. Еще задолго до "Элизы" Ландау для себя изобрел способ внешне поддерживать неинтересную для себя беседу, продолжая про себя думать над тем, что его действительно в этот момент занимало. Он сводил разговор на одну из нескольких заранее заготовленных тем, по которым у него имелся дежурный набор реплик. Он эти темы называл "пластинками" (по аналогии с граммофонными). А у Салтыкова-Щедрина был градоначальник с органчикомв в голове. Так что идея старая! Элиза, конечно чуть-чуть более продвинута, поскольку иногда подцепляет слова из реплик собеседника, создавая иллюзию диалога.
[info]hacker.klever.net on July 11th, 2008 01:33 pm (UTC)
А вся эта история говорит о том, что Умный может научиться у дурака. Это очень важно иметь в виду, особенно когда интернет и компьютеры доступны всем, чтобы не было мучительно больно за бесцельно… ну и далее.
[info]rock_25 on July 12th, 2008 03:19 pm (UTC)
Мне очень понравились Ваши реплики в ЖЖ Юлии Глезаровой по поводу её поста про "гадов физиков", которые свои исследования проводят не спросясь экс-депутата Чуева и других "озобоченных концом света граждан". Стивен Хокинг там "попал под раздачу" вообще ни за что, ни про что. Без "доступных всем компьютров" я, конечно, не имел бы этого удовольствия. Вы правы :)
[info]hacker.klever.net on July 12th, 2008 04:05 pm (UTC)
Спасибо. Абстрактную «хулу и похвалу» я стараюсь «приемлить равнодушно», но положительный отзыв, пожалуй, единственного здравого и спокойного комментатора этой записи мне приятен. Ещё хуже у меня получается «не оспоривать глупца» из того же текста. Впрочем, все совпадения случайны, хотя «случайное, являясь неизбежным, приносит пользу всякому труду».

Кстати, моё робкое слово в защиту Хокинга пало нелепой смертью, о чём я Вам сообщаю не потому что Вы можете захотеть их перечитать на ночь, а потому что Ваша на них ссылка зависла в воздухе. При этом хочу отдельно заметить, что пали они, конечно, не по моей инициативе, но и хозяйку дневника, являющуюся непосредственным исполнителем этого чудовищного акта вандализма, я прошу ни в чём, кроме непонимания не винить.

А из всех ёрничаний на тему доступных компьютеров мне всегда очень нравилось про то, что раньше считалось, что если посадить за пишущие машинки миллион обезьянок, то с вероятностью, которой не следует пренебрегать, они напечатают «Войну и мир», но теперь, когда у нас есть компьютеры и интернет, мы знаем, что это не так.
[info]rock_25 on July 13th, 2008 07:47 am (UTC)
С хозяйкой того дневника я познакомился лично прошлой осенью совсем по другому поводу. "Оспаривать глупца" иногда необходимая, хоть и неприятная, работа. Особенно если он самодволен и агрессивен. Она оказалась вовлечена в такую деятельность, не зная с кем, собственно, имеет дело. Я ей кое-что, как мог, объяснил. Потом и еще нескольким попавшим в ту же ситуацию ЖЖистам. Я Вас "зафрендил", чтобы Вы увидели эти записи. Так что на Юлию Владимировну я не в обиде. Я ей сочувствую.

Увлечение компьютеризацией (на уровне управляющих элит)когда-то имело в своей основе ощущение (иногда даже осознанное), что компьютеры - средство тиражирования "интеллекта" (в виде "программ"). О том, что этим же путем можно и отсутствие интеллекта (то есть глупость) бесконечно тиражировать, как-то не подумали :)

Я недавно "влез" в переписку с неким субъектом
(http://peresedov.livejournal.com/716807.html?thread=17734151#t17734151) и довольно быстро разобрался, что он из себя представляет. Более того легко установил, что это - уже известный многим Алексей Лотов, засоривший своим систематизированным бредом (есть такой термин в психиатрии) весь Интернет.
[info]hacker.klever.net on July 13th, 2008 09:40 am (UTC)
Я не хотел бы напрямую связывать разговор об оспоривании глупца с хозяйкой небезызвестного дневника — это и некорректно и, возможно, даже несправедливо.

Если смотреть на историю с коллайдером шире, то можно было бы говорить об оспоривании «коллективного глупца», но мои-то комментарии носили достаточно индивидуальный характер.

Говоря же об абстрактном глупце, подозреваю, что работа эта необходима буквально — обойти её, удержаться порой невозможно. А стоит ли она того — не уверен. И переписка Ваша — тоже пример.

Насчёт тиражирования глупсти — красиво. Ведь, если подумать, тиражирование «интеллекта» — это и есть внедрение глупости, потому что если с детства ставить вместо органа протез, то орган за ненадобность атрофируется. Интеллект занимает весь предоставленный ему объём, но объём ему нужно предоставить! Мою маму как-то попросили позаниматься с мальчиком математикой и он на вопрос об определении(!) синуса произнёс нечто, что моя мама никак не могла интерпретировать и что оказалось комбинацией клавиш на калькуляторе (с точностью до Fn, Shift или чего-то в этом духе), требуемой для вычисления значения этого самого синуса.

P.S. Никаких записей, имеющих отношения к этой истории я не вижу. Но я Вам верю.
[info]rock_25 on July 13th, 2008 10:34 pm (UTC)
Девушка-дипломница в соседней лабораториии полтора месяца жаловалась, что никак не может решить задачу, возникшую в её работе. Поскольку не я её руководитель, то я её подбадривал, но задачей не интересовался. В конце-концов, уже в начале июня, после её очередной отчаянной жалобы, решил все-таки спросить, что же это за задача. Девушка выписала пять уравнений второй степени и пожаловалась, что ни один доступный ей "солвер" их не смог решить. С первого взгляда стало ясно, что эти уравнения представляют собой переопределенную систему уравнений, для нахождения сферы (в обычном трехмерном пространстве), проходящей через заданные точки. Параметров у такой сферы четыре (три кординаты центра и радиус). Пятое уравнение было лишним (то есть пятая точка). Попарное вычитание четырех уравнений исключало "квадрат радиуса" и сводило систему к линейной из трех уравнений относительно трех координат "центра сферы". Задача класса для 8-9. Девушка усидчивая и любознательная, между прочим, школу в свое время окончила с "золотой медалью"! Вера в то, что "компьтер сам все решит", её подвела. Это почти случай ученика Вашей мамы, только человек уже был знаком не только с калькулятором, но и с MatLAB, MathCAD и Mathematica :)
Беды всегда были от полузнания. Ваше замечание о "внелрении глупости" с помощью компьютеров - является еще одной важной мыслью. Я-то писал именно о тиражировании (одних и тех же) глупостей (человек, который мельтешил в блоге Переседова - просто болен и засоряет своим бредом Сеть, поскольку это теперь очень легко делать), а Вы, совершенно справедливо указали и на порождение новых носителей и производителей глупостей. Это - результат появления большого количества полузнаек, которые считают, что умеют пользоваться компьютерными средствами, а на самом деле совершенно не понимают, как и зачем.
[info]hacker.klever.net on July 14th, 2008 07:40 am (UTC)
Да, история мальчика с продолжением. А точнее — просто та же история на более позднем этапе. Ужас в том, что у синусоидального мальчика очень мало шансов попасть на место этой девочки. Интересно, что они оба могли бы, если бы не…

Насчёт тиражирования — это всё правда, но тут компьютеры не дали ничего принципиально нового по сравнению с первопечатниками. Разница количественная. Можно, с другой сторонф, говорить и о книгах, как вытесняющем интеллект факторе. И даже, при сравнимом уровне доверия к печатному слову, вполне справедливо…
[info]rock_25 on July 14th, 2008 11:35 am (UTC)
Лет двадцать назад один психолог (он был старше меня) убеждал меня в том, что по какой методике не учить школьников математике, все равно самостоятельно решают задачи 2-3 человека в классе. (Речь шла об обычных школах, где дети специально не отбирались предварительно) То есть фактически он настаивал на том, что есть некоторый популяционный (если не видовой) признак "способновть решать задачи по школьной математике", по которому примерно 3% школьников отличаются от остальных.
Мне все-таки и до сих пор кажется, что даже если такой признак существует, то это еще не повод не учить совсем или учить плохо. Все-таки я не верю в существование резкой граниицы, разделяющей людей по этому признаку (он ведь не такой, как "цвет глаз", хотя и у глаз есть оттенки цвета). Поэтому за детей из переходной области" стоит побороться.

А компьютеры значительно увеличили масштабы бедствия.
Например, землекоп с лопатой одним неверным движением может неправильно перебросить килограмм-другой грунта, а землекоп с шагающим экскаватором - десяток тонн. Размеры возможного ущерба в последнем случае гораздо значительнее и разнообразней.
[info]hacker.klever.net on July 14th, 2008 12:10 pm (UTC)
Конечно, стоит бороться. В частности, мальчик с синусом, может и не научился бы решать задачи самостоятельно, но в той ситуации, в которую он попал у него не было шанса даже понять о чём эти задачи. И в этом я меньше всего склонен винить его самого. Вот в этом случае бороться нужно было.

Я вообще совершенно не согласен с позицией этого психолого. Да, возможно он прав, что, как ни крути, больше 2-3 человек в обыкновенном классе не станут решать задачи сами. Но вот в том, что можно преподавать так, чтобы и эти 2-3 погрязли в ментальной лености — я почти уверен.

Да, компьютеры, конечно, увеличили абсолютные возможности оболванивания, но население растёт и, может, потребовались компьютеры, чтобы оболванивать тот же процент населения в единицу времени? ;-)
[info]rock_25 on July 14th, 2008 08:34 pm (UTC)
То есть с ростом населения потребность в компетентных специалистах и просто гражданах уменьшается?
[info]hacker.klever.net on July 14th, 2008 08:39 pm (UTC)
Смотря чья потребность…

Ещё можно предположить, что это необходимое зло, с целью поднятия интеллектуального уровня специалистов. Ведь, исходя из закона сохранения интеллекта, чтобы его поднять у узкого круга специалистов, его нужно где-то взять ;-)
[info]rock_25 on July 15th, 2008 07:55 am (UTC)
Я впервые слышу о таком "законе сохранения"!
Надо разобраться :)
Если речь идет о видовом признаке, то он не должен меняться последние тысяч пятьдесят, наверное лет.

В чем нам предки проигрывали - так это в средней продолжительности жизни. То есть у них было меньше времени, чтобы свой интеллектт проявить. Еще им было намного трудней получать, передавать и перерабатывать информацию. Опять исторический выигрыш на нашей стороне.

Так что, по-моему, потенциально - интеллект распространен не меньше, чем в прошлом у представителей нашего вида, а условия для его проявления и использования теперь (в среднем) лучше, чем в прошлом. Единственное, что, возможно, имеет место, так это более резкое расслоение по этому признаку, поскольку интеллект ниже некоторого уровня просто оказывается невостребованным и перестает проявляться (да и использоваться). То есть происходит что-то вроде частичной "стерилизации интеллекта" в условиях технологически более развитого общества? Вы это имели в виду?
[info]hacker.klever.net on July 15th, 2008 08:44 am (UTC)
Ну так я его не так давно сформулировал ;-) Пока что это гипотеза, подлежащая проверке, так что разобраться действительно надо. Просто один из способов объяснить падение уровня, вопреки всем изложенным Вами предпосылкам к обратному. (Хотя, если серьёзно, то неясно о падении какого уровня я говорю — среднего, верхнего, нижнего, ещё какого? Мне развитие человечества напоминает картину Эшера «вверх по лестнице ведущей вниз» — и прогресс налицо и дегенерация).

А что до расслоения, то мне кажется это тоже не совсем так. Напротив, современные коммуникации связывают представителей всех уровней. Я не знаю как насчёт такой, не вполне определённой, характеристики как «интеллект», но то, что происходит, например, с культурой письменной речи вполне подходит в качестве лабораторной работы для иллюстрации эффекта сообщающихся сосудов: высокие столбики стремительно падают вниз, не изменяя сколь-нибудь существенно общий уровень.

Тут, впрочем, впору вспомнить и Ваше расслоение: некоторые сосуды отказываются вливаться, идя на всевозможные осмотические хитрости.

А в чистом виде невостребованность низкого уровня я, кажется, не наблюдал.
[info]rock_25 on July 15th, 2008 10:32 am (UTC)
Вы просто говорите, что с повышением температуры (то есть в каком-то смысле "средней кинетической энергии на микроэлемент макросистемы") энтропия системы растет, прежняя структура разрушается, так как амплитуда локальных флуктуаций увеличивается. Так что же ей еще делать? К счастью, дальше в открытых неравновесных системах возможны "фазовые переходы" с образованием новых диссипативных структур - "самоорганизация" :))) Подождем...

Невостребованность интеллектуальных способностей низкого уровня Вы как раз сами описали: наличие калькуляторов сделало способности к "устному счету" невостребованными и они перестали использоваться. Это - только простейшая схема, но она описывает сам принцип. Люди-то остались востребованными, но не для счета в уме (несложная интеллектуальная функция), а для счета на калькуляторе (в основном - двигательная функция плюс простейший навык чтения). Интеллектуальный потенциал такого человека переключается на что-то другое, допустим, на изобретение и реализацию развлечений для "внутреннего употребления". Вот Вам и "стерилизация интеллекта"!
[info]hacker.klever.net on July 15th, 2008 11:14 am (UTC)
Не уверен, что это именно я говорил, но можно и так посмотреть на вопрос. А подождём — это да, куда ж мы денемся (если, конечно, гады-физики или, что более вероятно, гады-лирики не учинят нам очередную кото-клизму).

Да, про невостребованность понял. Я подумал сначала именно о невостребованности людей, не достигающих определённого уровня.
[info]rock_25 on July 15th, 2008 02:10 pm (UTC)
Или сделают cut-o'клизму :)

Люди-то всегда востребованы: хотя бы в качестве доноров чего-нибудь, или "живых игрушек"... Только нам-то хочется чего-то более интересного!
[info]hacker.klever.net on July 15th, 2008 05:17 pm (UTC)
Côte-o'клизму ещё можно ;-)

Ну да, ну это уже совсем не интеллектуальное востребование, это немного другое. Ах если бы нам всем хотелось чего-то более интересного, может дела обстояли бы иначе…
[info]rock_25 on July 16th, 2008 10:13 am (UTC)
Чтобы "дела обстояли бы иначе" надо еще уметь удовлетворять свой интерес не за чужой счет. С этим всегда были проблемы, особенно у тех, кто умом не вышел...
[info]hacker.klever.net on July 16th, 2008 10:15 am (UTC)
Ну это чтоб уж совсем иначе. Как мы с Вами теперь знаем, если кто не вышел телом, он тоже пускается во все тяжкие… ;-)
[info]rock_25 on July 16th, 2008 02:58 pm (UTC)
Если Вы о Хокинге, то это не он "пускался во все тяжкие", а женщины (по меньшей мере две жены), чтобы его завоевать :)

Но интеллект, конечно, - страшная сила!
[info]hacker.klever.net on July 16th, 2008 04:38 pm (UTC)
Ну а как же (теперь-то мы знаем!) его чёрные мечты загнать нас в чёрную дыру?! ;-) Я, собственно, только это имел в виду ;-)
[info]rock_25 on July 17th, 2008 09:06 am (UTC)
Как раз МЫ-то знаем, что не было у него такой мечты :)
[info]hacker.klever.net on July 17th, 2008 09:15 am (UTC)
Ну да, там акцент на слове «теперь» был (и в этом сарказм), а если переставлять на «мы», то лучше, конечно, добавить отрицание ;-)
 

Advertisement