Проблема искусственного интеллекта, соответствующая обыкновенному человеческому мышлению, в обозримой перспективе не может быть решена. Более того, для предотвращения опасности появления неподконтрольной людям компьютерной цивилизации она и не должна быть решена.
Cформулирована и в научно-техническом аспекте решена новая проблема, названная проблемой компьютерного интеллекта, которая соответствует творческому мышлению человека. Компьютерный интеллект может стать доступнен массовому пользователю уже в ближайшие годы.
Компьютерный интеллект – альтернатива искусственному интеллекту
© Александр Антонов, Нина Карнаух, 2007
Оглавление
1. Интеллект, мышление, интуиция.
1.1. Чем для нас очень ценен компьютер
1.2. Интеллект человеческий и компьютерный
2. Искусственный интеллект
2.1. Проблема искусственного интеллекта
2.2. Опасность искусственного интеллекта
2.3. А мыслит ли компьютер сейчас
2.4. Почему персональный компьютер еще не мыслит
3. Компьютерный интеллект
3.1. Проблема компьютерного интеллекта
3.2. Техника безопасности для компьютерного интеллекта
3.3. Техническая осуществимость компьютерного интеллекта
3.4. Необходимость прекращения работ по искусственному интеллекту.
4. Использование компьютерного интеллекта
4.1. Использование компьютерного интеллекта для решения задач познания
4.2. Использование персонального компьютера для решения задач обучения
4.3. Использование компьютерного интеллекта для решения экономических задач
5. Выводы
Использованная литература
1. Интеллект, мышление, интуиция.
1.1. Чем для нас очень ценен компьютер
Ответ на этот вопрос простой - тем, что в отличие от всех других машин и приборов, которые помогают нам в физическом труде или расширяют возможности наших органов чувств, он помогает нам мыслить. И он – единственный в этом качестве.
Насколько хорошо он сейчас помогает, насколько разносторонне – это не главное.
Главное – это то, что компьютер открывает принципиально новые возможности.
Тем более, что уже существуют и доступны массовому пользователю персональные компьютеры.
А то, что персональные компьютеры, как интеллектуальные помощники человека, во многом еще не совершенны, так это - вполне естественно.
Вспомним, какими были первые образцы величайших изобретений человека – самолетов и автомобилей, телевизоров и радиоприемников, магнитофонов и авторучек, телефонов и бытовой химии … Представим себе также, какими были в пеленках великие интеллектуалы – Ньютон и Эйнштейн, Королев и Циолковский, Гаусс и Винер, Туполев и Сикорский, да Винчи и Архимед, Пушкин и Шекспир …
Так что и у персональных компьютеров все их великие дела еще впереди.
1.2. Интеллект человеческий и компьютерный
Персональные компьютеры широко используются в государственных учреждениях, офисах фирм, на заводах и фабриках, в научно-исследовательских институтах и конструкторских бюро. Их использование значительно повышает производительность труда и снижает себестоимость продукции.
Вместе с тем во многих жизненно важных областях человеческой деятельности компьютеры в наше время еще не используются. Такие задачи, которые персональные компьютеры сейчас не способны решать, называются интеллектуальными задачами.
В литературе, даже научно-фантастической, нередко утверждается, что компьютер способен выполнять сколь-угодно сложные вычисления, но интеллектуальные (или творческие) задачи могут решать только люди, гениальные мысли могут рождаться только в голове человека.
К интеллектуальным задачам, которые могут решать люди, например, относятся создание открытий, новых научных теорий, успешная биржевая игра и др.
Про непредсказуемость и невозможность планового создания научных теорий даже при работе над соответствующими проблемами – например, шаровых молний, НЛО, телепатии, телекинеза и др. - больших научных коллективов первый президент Украинской академии наук академик В. И. Вернадский писал [1]: «Вся история науки доказывает на каждом шагу, что, в конце концов, постоянно бывает прав одинокий ученый, видящий то, что другие своевременно осознать не в состоянии».
Про безуспешные попытки объяснить свою интуицию и описать алгоритм своей успешной биржевой деятельности известный финансист Джордж Сорос писал [2]: «…Гейзенберг сформулировал научную теорию неопределенности, в то время как моя модель помогает иметь дело с неопределенностями ненаучными методами. Это важное различие. Согласно научным стандартам моя теория бесполезна».
Более того, известны многочисленные факты, когда государственные, партийные и религиозные деятели те или иные научные проблемы объявляли неразрешимыми, целые научные направления признавали ненаучными.
Так [3], «…в 1496 году испанский математик Паоло Вальмес встретился с "великим инквизитором" и любителем математики Фомой Торквемадой. Разговор зашел о решении уравнений 4-й степени. Торквемада заявил, что такие уравнения не могут быть решены, так как их решение волей Господней для человеческого разума недостижимо. Вальмес в ответ заявил, что такие уравнения им решены... В ту же ночь Вальмес был брошен в тюрьму инквизиции "за борьбу с божественной волей". Через три недели он был сожжен».
Науке известны многочисленные факты, когда само научное сообщество и даже отдельные ученые объявляли те или иные проблемы неразрешимыми. Например, в ХIХ веке многие авторитетные ученые заявляли про невозможность построить летательные аппараты (так тогда называли самолеты и вертолеты), которые будут тяжелее воздуха (несмотря на существование птиц и насекомых, которые также тяжелее воздуха).
По этому поводу знаменитый физик лауреат Нобелевской премии Макс Планк писал [4]: «Обычно новые научные истины побеждают не так, что их противников убеждают и они признают свою неправоту, а большей частью так, что противники эти постепенно вымирают, а подрастающее поколение усваивает истину сразу»
Однако существуют интеллектуальные задачи, которые еще не могут решить и люди. Это – лечение рака, СПИДа и многих других болезней, это – долгосрочный прогноз землетрясений и иных стихийных бедствий, это – эффективное управление экономикой и др.
Объясняется это тем, что в реальной жизни часто результат какого-либо события зависит от очень большого числа (нередко нескольких тысяч и более) причин или, иначе говоря, факторов, в том числе неизвестных. Но люди могут выявлять только простые причинно-следственные связи, когда число факторов, влияющих на результат, невелико. Поэтому для людей многое все еще необъяснимо и недоступно.
Поэтому же возможность предсказания микрособытий даже недалекого будущего (например, выигрыша в лотерее), в отличие от макрособытий (например, полета человека на Марс), полагается фантастической.
Вот как про это писал М. А. Булгаков [5]: « -- Виноват, -- мягко отозвался неизвестный, -- для того, чтобы управлять, нужно, как-никак, иметь точный план на некоторый, хоть сколько-нибудь приличный срок. Позвольте же вас спросить, как же может управлять человек, если он не только лишен возможности составить какой-нибудь план хотя бы на смехотворно короткий срок, ну, лет, скажем, в тысячу, но не может ручаться даже за свой собственный завтрашний день? И, в самом деле, -- тут неизвестный повернулся к Берлиозу, -- вообразите, что вы, например, начнете управлять, распоряжаться и другими и собою, вообще, так сказать, входить во вкус, и вдруг у вас... кхе... кхе... саркома легкого... А бывает и еще хуже: только что
человек соберется съездить в Кисловодск, -- тут иностранец прищурился на Берлиоза,-- пустяковое, казалось бы, дело, но и этого совершить не может, потому что неизвестно почему вдруг возьмет -- поскользнется и попадет под трамвай! Неужели вы скажете, что это он сам собою управил так? Не правильнее ли думать, что управился с ним кто-то совсем другой? -- и здесь незнакомец рассмеялся странным смешком.
Берлиоз с великим вниманием слушал неприятный рассказ про саркому и трамвай, и какие-то тревожные мысли начали мучить его. "Он не иностранец! Он не иностранец! -- думал он, -- он престранный субъект”.... "Надо будет ему возразить так, -- решил Берлиоз, -- да, человек смертен, никто против этого и не спорит. А дело в том, что..."
Однако он не успел выговорить этих слов, как заговорил иностранец: -- Да, человек смертен, но это было бы еще полбеды. Плохо то, что он иногда внезапно смертен, вот в чем фокус! И вообще не может сказать, что он будет делать в сегодняшний вечер.
"Какая-то нелепая постановка вопроса..." -- помыслил Берлиоз и возразил: -- Ну, здесь уж есть преувеличение. Сегодняшний вечер мне известен более или менее точно. Само собой разумеется, что, если на Бронной мне свалится на голову кирпич...
-- Кирпич ни с того ни с сего, -- внушительно перебил неизвестный, -- никому и никогда на голову не свалится. В частности же, уверяю вас, вам он ни в коем случае не угрожает. Вы умрете другой смертью.
-- Может быть, вы знаете, какой именно? -- с совершенно естественной иронией осведомился Берлиоз, вовлекаясь в какой-то действительно нелепый разговор, -- и скажете мне?
-- Охотно, -- отозвался незнакомец. Он смерил Берлиоза взглядом, как будто собирался сшить ему костюм, сквозь зубы пробормотал что-то вроде: "Раз, два... Меркурий во втором доме... луна ушла... шесть -- несчастье... вечер -- семь..." -- и громко и радостно объявил: -- Вам отрежут голову!
Бездомный дико и злобно вытаращил глаза на развязного неизвестного, а Берлиоз спросил, криво усмехнувшись:
-- А кто именно? Враги? Интервенты?
-- Нет, -- ответил собеседник, -- русская женщина, комсомолка.
-- Гм... -- промычал раздраженный шуточкой неизвестного Берлиоз, -- ну, это, извините, маловероятно.
-- Прошу и меня извинить, -- ответил иностранец, -- но это так. Да, мне хотелось бы спросить вас, что вы будете делать сегодня вечером, если это не секрет?
-- Секрета нет. Сейчас я зайду к себе на Садовую, а потом в десять часов вечера в МАССОЛИТе состоится заседание, и я буду на нем председательствовать.
-- Нет, этого быть никак не может, -- твердо возразил иностранец.
-- Это почему?
-- Потому, -- ответил иностранец и прищуренными глазами поглядел в небо, где, предчувствуя вечернюю прохладу, бесшумно чертили черные птицы, -- что Аннушка уже купила подсолнечное масло, и не только купила, но даже разлила. Так что заседание не состоится».
2. Искусственный интеллект
2.1. Проблема искусственного интеллекта
Вполне логично утверждать, что если сейчас компьютер уже помогает нам мыслить (а что же еще он делает: разве считать или делать логические выводы – это физическая работа?), то когда-нибудь он неизбежно начнет мыслить.
Однако долголетние упорные работы по использованию компьютеров в этом качстве, которые назвали решением проблемы искусственного интеллекта (ИИ), оказались практически безуспешными.
По этому поводу директор института имени Алана Тьюринга в Глазго доктор Дональд Мичи в 1984 г. писал [6] : «…существует множество … естественных задач; многие из них для человека настолько тривиальны, что решая их он редко осознает, что проявляет замечательные способности, к которым на современном уровне развития вычислительной техники невозможно даже подступиться. Среди этих задач – владение естественным языком, понимание устной речи, умение разобраться в окружающей обстановке через зрительное восприятие.»
Про это же в 2004 г. профессор Харьковского национального университета В. М. Куклин писал [7]: «Природа, конечно, подсказывает нам, как создать искусственный интеллект, но люди пока не способны повторить достижения природы даже в минимальной степени. Похоже, что человек совершает только первые и неуверенные шаги к осознанию того, какими удивительными… способностями он обладает, а также каким уникальным явлением природы он сам по себе является».
Как видно, за 20 лет оптимизма не прибавилось.
2.2. Опасность искусственного интеллекта
И почти одновременно с формулированием проблемы ИИ появилось осознание возможной небезопасности ИИ.
Вот мнение на этот счет:
• профессора массачусетского технологического института Норберта Винера [8]: «Вопрос. Д-р Винер, существует ли опасность, что машины – вычислительные машины когда-нибудь возьмут верх над людьми? Ответ. Такая опасность несомненно существует.»
• директора института имени Алана Тьюринга в Глазго доктора Дональда Мичи [6]: «Перспектива иметь машины столь талантливые и могущественные, какими мы их себе представляем, может показаться неприятной, даже пугающей… Однако подобные философские соображения, сколь бы важными они ни представлялись, не должны помешать нам искать пути применения новой техники. Если это удастся, то будущее наше будет лучше, чем можно себе вообразить. Если же нет, то у нас вообще может не быть будущего».
А что если созданный руками (и мозгами) человека компьютер, действительно, неожиданно выйдет из-под контроля?
Даже создавая роботов, новую компьютерную технику, новые программы, новое оружие, новые биотехнологии, ученые больше думают о том, как это отразится на их карьере сейчас, чем над отдаленными последствиями своих работ. В научном сообществе, в отличие от медицинского сообщества, принцип «НЕ НАВРЕДИ» еще не стал общепринятым и обязательным для исполнения.
Поэтому, очевидно, очень важно знать, когда компьютеры начнут мыслить. И заблаговременно пора начать думать, что делать уже сейчас, чтобы мыслящие компьютеры не смогли представлять для людей опасность.
2.3. А мыслит ли компьютер сейчас
Чтобы ответить на этот вопрос надо в нем по меньшей мере хорошо понимать смысл каждого слова. Смысл слова компьютер ясен каждому. Это – то, что у многих стоит на рабочем столе. А понимаем ли мы смысл слова «мыслить»?
В энциклопедии Кирилла и Мефодия [9] написано :
• «Интеллект (от лат. Intellectus – познание, понимание, рассудок) – способность мышления, рационального познания».
• «Мышление – высшая ступень человеческого познания. Позволяет получать знание о таких объектах, свойствах и отношениях реального мира, которые не могут быть непосредственно восприняты на чувственной ступени познания».
Однако из последнего определения могут быть сделаны неправильные выводы о том, что:
• проблемы искусственного интеллекта (например, распознавания образов) интеллектуальными не являются и к мышлению не относятся;
• и вообще никакого нечеловеческого, в том числе компьютерного, интеллекта быть не может.
Поэтому дадим свое определение, свободное от указанного недостатка: «Мышление – это такой анализ новой информации совместно с повторным анализом старой информации, который приводит к выводам, полезным для последующей деятельности мыслителя».
Нетрудно заметить, что в соответствии с этим определением мы допускаем возможность мышления других живых существ. Однако мыслят они, очевидно, по-своему, поскольку у них иной образ жизни, иные органы чувств и вообще почти все другое. Общая у нас с ними только планета Земля.
Однако далее нас интересуют только компьютеры.
Для ответа на вопрос, мыслит ли компьютер, предложены многочисленные тесты, и в том числе:
• тест Алана Тьюринга [10]: «Компьютер можно считать разумным, если он способен заставить нас поверить, что мы имеем дело не с машиной, а с человеком»;
• тест Норберта Винера [11]: «Все машины, претендующие на разумность, должны обладать способностью преследовать определенные цели и приспосабливаться, т. е. обучаться»;
• тест Марвина Минского и Сеймура Пейперта [10]: «Машина обладает интеллектом, если задание, которое она выполняет, потребовало бы от человека – будь он на месте машины – интеллектуальных усилий».
Однако использование указанных тестов приводит к неоднозначным результатам [10]. Так, в соответствии с критериями, указанными в тестах Тьюринга и Винера, современные компьютеры уже мыслят, хотя еще примитивно. А в соответствии с критериями, указанными в тесте Минского и Пейперта, они еще не мыслят.
И этот разнобой в выводах, объясняется, на наш взгляд, нечеткостью используемой терминологии. А именно, надо различать обыкновенное мышление, которое свойственно всем людям, и творческое мышление, на которое способны лишь немногие люди.
Например, к обыкновенному мышлению относятся задачи распознавания образов, овладения устной и письменной речью, овладение навыками управления автомобилем и др. Многие из этих задач у человека не вызывают ни малейших затруднений. Но эти же задачи компьютеры решают с большим трудом. Эти задачи применительно к их решению компьютером и относят к проблеме ИИ.
К творческому же мышлению относятся задачи создания научных теорий, успешной биржевой игры и др., т. е. задачи с не полностью определенными условиями, решаемые человеком с использованием так называемой интуиции, которую никто еще не смог четко объяснить. А эти задачи применительно к компьютерам относятся к проблеме, которую мы назвали проблемой компьютерного интеллекта (КИ).
Как видно, тесты Тьюринга, Винера, Минского и Пейперта относятся к разным видам мышления.
Сейчас специалисты по компьютерной технике, программированию, психологии занимаются только проблемой ИИ и не занимаются проблемой КИ, полагая, что задачи обыкновенного мышления всегда проще задач творческого мышления. Поэтому они делают вывод, что невозможно овладеть творческим мышлением, не овладев обычным мышлением. И занимаются проблемой ИИ, но не занимаются проблемой КИ.
Для людей это утверждение является правильным. А для компьютеров, оказывается, нет!
Дело в том, что простому и сложному в человеческой машинной цивилизации и окружающей нас живой природе соответствуют существенно различные понятия.
Приведем примеры. В живой природе нигде не используются вращающиеся детали, например, колеса, пропеллеры, шестеренки. В авиации же, наоборот, не используются летательные аппараты с машущими крыльями. А в наземном транспорте не используются шагающие или прыгающие автомобили. Т. е. для людей проще вращающиеся шестеренки и колеса, а для живой природы - машущие крылья и шагающие ноги.
Еще пример. Для человека простейшими являются математические операции сложения, вычитания, умножения и деления, а более сложными - математические операции дифференцирования и интегрирования. В аналоговой же радиоэлектронике простейшими для реализации являются математические операции дифференцирования, интегрирования, сложения и вычитания, а более сложными - математические операции умножения и деления.
Теперь мы можем ответить на вопрос в заголовке. Пользуясь своим определением понятия мышления, однозначно ответим – никакой современный компьютер (ни персональный, ни даже суперкомпьютер) мыслить еще не может, хотя бы потому, что все, что компьютер делает, он делает не на пользу себе, а только на благо человека.
К слову сказать, и люди, которые слепо выполняют чужие распоряжения, никогда не являются большими интеллектуалами.
2.4. Почему персональный компьютер еще не мыслит
Но только что приведенного ответа мало. Очевидно, имеются и другие причины, не позволяющие компьютеру мыслить.
Чтобы их лучше понять, полезно сравнить человека и персональный компьютер, как информационные машины, поскольку у них имеется много общего:
• у человека, как и у компьютера, имеются средства обработки информации – это его головной мозг;
• у человека, как и у компьютера, имеются средства хранения информации – это его память (также находящаяся в головном мозге, т. е. очень близко);
• у человека, как и у компьютера, имеются средства ввода информации – это его органы чувств и т. д.
Причем процессор персонального компьютера по степени своего совершенства, казалось бы, значительно превосходит процессор (т. е. головной мозг) человека. Действительно, персональный компьютер с высокой скоростью выполняет вычисления многозначных чисел по сложным формулам. Человек в уме решать такие задачи не способен. И даже на бумаге или на калькуляторе делает это медленно.
Однако мозг человека подсказывает ему правильные решения в трудных жизненных ситуациях, когда многие важные обстоятельства неполностью известны или даже полностью неизвестны. Более того, он обладает очень ценным свойством – интуицией, которую пока что никто объяснить не может. И эта интуиция помогает человеку находить выход из, казалось бы, безвыходных ситуаций.
Таким образом, процессор компьютера сколь угодно сложные, но четко сформулированные задачи решает гораздо быстрее человека. Однако нечетко сформулированные задачи компьютер не решает, а человек решает. Но как? Это еще неизвестно.
Средства же хранения информации в мозгу человека по информационному объему превосходят информационный объем памяти персонального компьютера. Более того, в эту память непрерывно на протяжении всей жизни поступает все новая и новая информация.
А основным средством ввода информации в головной мозг человека являются глаза. Через них приходит более 90% всей получаемой человеком информации [6]. Поэтому человек мыслит в основном зрительными образами. Глаза же, как средство ввода информации, являются значительно более скоростным средством, чем клавиатура компьютера или модем, подключенный к Интернету. Поэтому память (т. е. голова) у человека не такая относительно пустая, как у компьютера.
Поэтому в целом человек является сейчас значительно более совершенной информационной машиной, чем персональный (да и любой другой) компьютер.
Персональный компьютер, следовательно, уступает человеку:
• по величине информационного объема своей памяти;
• по скорости ввода в память информации;
• по количеству и качеству хранимой в памяти информации;
• по алгоритмам обработки поступающей в процессор информации.
Таким образом, второй (но не последней) причиной, не позволяющей сейчас компьютеру мыслить, является то обстоятельство, что его память недостаточно совершенна. И, в частности, не содержит сколь-нибудь ценной и достаточно полной информации.
Т. е. интеллект компьютера, как и человека, определяется степенью совершенства не только процессора, но также его памяти и ее содержимым.
А смог ли бы человек мыслить в любом смысле этого слова, находясь в подобных условиях? Например, управлять движущимся автомобилем, не видя дороги, по которой на самом деле едет. Или управлять фирмой, не зная рыночной конъюнктуры. Естественно, нет.
Вот и компьютер по тем же причинам не может мыслить. Но только пока. Поскольку указанная причина устранима.
3. Компьютерный интеллект
3.1. Проблема компьютерного интеллекта
Так что же необходимо сделать, чтобы персональный компьютер получил возможность мыслить [12]? Или, иначе говоря, как реализовать КИ?
Из вышеизложенного следует, что для успешного решения, по меньшей мере, ранее перечисленных многофакторных задач КИ, в отличие от задач ИИ, необходим очень большой объем достоверной исходной информации. Поэтому чтобы реализовать КИ, компьютерную память необходимо сделать, образно выражаясь, более человекоподобной, т. е.:
a. информационный объем компьютерной памяти должен быть значительно увеличен;
b. процессору должно быть обеспечено минимальное время доступа ко всей хранимой в такой компьютерной памяти информации;
c. компьютерная память должна быть максимально полно загружена необходимой информацией;
d. загруженная в память компьютера информация должна быть максимально достоверной, т. е. эта память должна содержать самую свежую, и забывать существенно устаревшую информацию.
При этом отметим, что условие «а» разработчиками персональных компьютеров уже осознано, как в высшей степени актуальное. И поэтому ими в разработке памяти персональных компьютеров достигнуты очень большие успехи. Более того, она может быть значительно увеличена, например, за счет использования нескольких винчестеров.
Условие же «b» означает, что используемая персональным компьютером база данных должна быть персональной, т. е. храниться в памяти самого персонального компьютера (а не в удаленной базе данных коллективного пользования, связь с которой поддерживается через Интернет).
Условия «c» и «d» означают, что хранимая в такой персональной базе данных информация должна быть настолько полной и достоверной, что позволит в результате ее анализа правильно понять решаемую пользователем проблему. Следовательно, эти условия означают, что персональная база данных должна непрерывно и с максимально высокой скоростью обновляться.
Память персонального компьютера, которая будет удовлетворять условиям «а» - «d» (а сейчас такой памяти еще нет), назовем персональной [13] - [16].
3.2. Техника безопасности для компьютерного интеллекта
А нужен ли нам мыслящий компьютер?
Спросить об этом лучше поздно, чем никогда. Действительно, прежде чем создавать мыслящий компьютер, надо разобраться, а нужен ли он нам. Для этого надо ответить на вопросы:
• Если компьютеры станут умнее человека, не подчинят ли они себе людей?
• При каких обстоятельствах люди смогут использовать мыслящие компьютеры, не дав им господствовать над собой?
• Насколько срочно людям надо ответить на все эти вопросы, чтобы не потерять контроль над ситуацией?
И сразу дадим свои ответы на эти вопросы:
• Да, если не принять специальных мер, в будущем может появиться неподконтрольная людям компьютерная цивилизация, представляющая для людей по меньшей мере потенциальную опасность.
• Чтобы люди могли использовать мыслящие компьютеры, не дав им господствовать над собой, необходимо соблюдать соответствующую технику безопасности (об этом см. ниже).
• Все эти проблемы людям необходимо решить уже в 21-м веке, иначе будет поздно.
А не преувеличиваем ли мы опасность мыслящих компьютеров?
И здесь может возникнуть еще один вопрос: а не противоречим ли мы самим себе. Действительно, с одной стороны, мы говорим об опасностях со стороны компьютеров, если они станут более умными. А с другой стороны, ищем пути получения в свое распоряжение таких умных компьютеров.
Ответ простой – естественно, нет. Ведь опасности угрожают человеку при неосторожном использовании и других достижений науки и техники: автомобилей и самолетов, атомной энергетики и генной инженерии, Интернета и бытовой электротехники, лекарств, бытовой химии и многого другого. Но по этой причине ведь никто не собирается отказываться от благ цивилизации. Просто люди знают, что существует соответствующая техника безопасности, которую обязательно надо соблюдать.
Соответствующую технику безопасности необходимо соблюдать и при использовании компьютеров. Применительно к компьютерам эти меры безопасности, очевидно, должны гарантировано исключать возможность самостоятельного не подконтрольного человеку мышления и использования результатов такого мышления во вред человеку. Такими мерами, в частности, могли бы быть:
• предотвращение возможности неподконтрольного человеку объединения интеллектуальных ресурсов большого числа компьютеров;
• предотвращение возможности неподконтрольного человеку использования компьютерами баз данных (особенно по компьютерной технике и программированию);
• предотвращение возможности неподконтрольного человеку изменения хранящихся в памяти компьютеров программ;
• предотвращение возможности неподконтрольного человеку подключения компьютеров к источникам энергии;
• программный запрет на нанесение компьютерами вреда пользователям;
• прекращение работ по искусственному интеллекту (подробнее об этом см. п. 3.4).
3.3. Техническая осуществимость компьютерного интеллекта
Напомним, что для того, чтобы персональный компьютер смог мыслить, он, по меньшей мере, должен быть оснащен персональной памятью.
Технически такая персональная память может быть реализована путем подключения памяти персональных компьютеров через специальные телевизионные адаптеры [17] к глобальной (либо, по меньшей мере, к крупной региональной) сети трансляции компьютерной информации по телевизионным (или иным широкополосным, например, волоконнооптическим) каналам связи. Такую новую информационную сеть для определенности назовем Теланнетом [18]. Для такой сети прежде всего могут быть использованы имеющиеся недогруженные каналы телевизионного вещания (в том числе спутниковые). А затем будут созданы и дополнительные для этой цели телевизионные каналы. Это позволит значительно ускорить процесс загрузки персональной памяти транслируемой по телевизионным каналам информацией, которая, напомним, по телевизионным каналам передается со скоростью примерно в тысячу раз более высокой, чем по телефонным каналам.
Более того, по телевизионным каналам информация транслируется очень большому числу пользователей одновременно, что дополнительно, на несколько порядков, повышает пропускную способность Теланнета.
Поэтому же абонементная плата будет очень низкой (на несколько порядков ниже, чем в существующем Интернете).
Высокая же надежность телевизионной трансляции компьютерной информации может быть обеспечена использованием помехоустойчивых кодов.
Существенным дополнительным достоинством такой системы информационной поддержки персональной памяти персональных компьютеров при помощи Теланнета, в отличие от существующего Интернета, является надежное обеспечение информационной безопасности персональных компьютеров, т. е. эффективная защита от компьютерных вирусных инфекций, от хакеров, от сетевого шпионажа, от спама.
Актуальность этого достоинства Теланнета подтверждается, например, прогнозом профессора Хельсинского технологического университета Ханну Кари, который полагал, что из-за деструктивного воздействия на существующий Интернет недобросовестных пользователей он уже в 2006 году практически прекратит свое существование [19].
Наконец, отметим, что вышеописанная информационная сеть не является альтернативой Интернету, а является его дополнением, поскольку создает новые службы, которые не могут быть реализованы в существующем Интернете.
Развернуть такую глобальную телевизионную сеть информационной поддержки персональной памяти компьютеров (прежде всего персональных) можно очень быстро, т. к. практически все для этого уже есть: спутниковые ретрансляторы, станции эфирного и кабельного телевизионного вещания, соответствующие информационные службы. А организовать разработку и выпуск на рынок нового программного обеспечения и телевизионных адаптеров несложно.
3.4. Необходимость прекращения работ по искусственному интеллекту.
В п. 3.2 уже говорилось о реальной опасности подчинения себе людей мыслящими компьютерами. И в этой связи предлагались соответствующие меры по технике безопасности, соблюдение которой позволит предотвратить захват власти компьютерами.
В этот список необходимо добавить еще одно мощное средство – прекратить (даже более того – запретить) работы по искусственному интеллекту, в том числе по созданию роботов.
Действительно, как отмечено в разделе 4.2, нетворческое мышление человеку даже нужнее творческого, т. к. оно требуется непрерывно все время для поддержания его жизнедеятельности. Это же справедливо и для компьютерной цивилизации, т.е. компьютерная цивилизация не сможет появиться, если не будет решена проблема ИИ. Но такая компьютерная цивилизация станет чрезвычайно опасной, если будет еще решена и проблема КИ. Поэтому надо выбирать какую из этих двух проблем – ИИ или КИ – человечеству следует решать.
Очевидно решение проблемы КИ для людей нужнее решения проблемы ИИ, поскольку обеспечит быстрый прогресс всего человечества, в том числе экономический. А поэтому в будущем компьютеры, которые получат способность творческого мышления и в силу этого способные представлять большую опасность для человека, ни в коем случае не должны иметь возможность существовать без человека.
Если же для компьютеров будут решены проблемы и КИ и ИИ, то людей уже ничто не спасет, так как неизбежно найдется такой безумец, который попытается объединить в компьютерах возможности компьютерного и искусственного интеллектов.
4. Использование компьютерного интеллекта
4.1. Использование компьютерного интеллекта для решения задач познания
И вот такой персональный компьютер, оснащенный персональной памятью, которая для информационной поддержки подключена к сети Теланнет, уже будет способен решать по меньшей мере некоторые творческие задачи, которые относятся к проблеме КИ. И прежде всего это – научные задачи, которые относятся к познанию закономерностей в существенно многофакторных процессах. К ним относятся научно-технические (например, термоядерный синтез), медицинские (например, заболевания), геофизические (например, землетрясения, цунами), метеорологические (т. е. изменения погоды), биологические (например, старение) и многие другие.
Однако поскольку мыслящий компьютер, в отличие от персонального компьютера, как упоминалось в разделах 3.2 и 3.4 может представлять большую опасность, он гарантировано не должен иметь возможность мыслить самостоятельно в своих компьютерных интересах. Людям необходим мыслящий компьютер в качестве интеллектуального помощника, который будет думать только совместно с человеком и только на благо человека.
Поэтому в отличие от самостоятельно мыслящего компьютера, который опасен человеку, компьютер, который будет мыслить только совместно с человеком, целесообразно назвать как-то иначе. Например, интеллектуальным компьютером.
А чтобы интеллектуальный компьютер мог оказывать реальную помощь человеку в его творческом мышлении, нужно понимать какая же именно требуется человеку помощь. Или другими словами, какие этапы процесса творческого мышления для человека трудны, а какие не очень.
Поэтому формально разделим процесс такого творческого мышления на два разных по содержанию этапа:
• выявление факторов, существенно влияющих на исследуемый процесс, и отсев малосущественных или совсем несущественных факторов;
• определение математической зависимости между выявленными существенными факторами.
И оказывается, что для человека наиболее трудным в процессе творческого мышления является первый этап, т. е. выявление существенных факторов, влияющих на результаты исследуемого процесса, и отсев несущественных факторов. Причем человек способен относительно успешно анализировать только те процессы, в которых количество взаимосвязанных причинно-следственными связями факторов очень невелико, т. е. не превышает двух – трех. Объясняется это, очевидно, тем, что поскольку человек живет в трехмерном мире, то, мысля зрительными образами, он легко может представить себе двухмерные или трехмерные зависимости. А уже в более многомерном пространстве человек даже простейшие задачи – например, представить, как выглядит куб в четырехмерном пространстве – решать уже не может.
Но большинство происходящих в реальной жизни событий – землетрясения и другие стихийные бедствия, изменения погоды, болезни, экономические кризисы, аварии систем и механизмов – являются результатом взаимодействия гораздо большего количества факторов.
Второй же этап мышления у людей, знающих математику, обычно не вызывает затруднений.
А для компьютера, оснащенного соответствующим программным обеспечением, ни первый, ни второй этап мышления не вызывает затруднений. Но при одном условии. А именно, при условии, что в персональную память компьютера будет загружена информация, которая содержит в себе ответ на поставленную пользователем задачу. В противном случае никакой интеллектуальный компьютер не поможет.
Поясним сказанное. Если Вы, например, хотите узнать, как ловить рыбу, то используя самую полную информацию, но о чем-угодно другом – скажем, о сборе грибов – Вам не удастся этого сделать.
Другими словами, множество содержащейся в памяти компьютера информации обязательно должно полностью включать в себя подмножество достоверной информации по исследуемой проблеме. Иначе исследуемая проблема никем – ни компьютером, ни человеком – никогда не сможет быть решена.
4.2. Использование персонального компьютера для решения задач обучения
Выше в разделах 2.2.2 и 2.4 мы уже упомянули две причины, которые не позволяют сейчас компьютерам мыслить самостоятельно. Более того, в разделе 3.2 мы, говоря о технике безопасности применительно к интеллектуальным компьютерам, подчеркнули, что при их разработке должна быть гарантировано исключена возможность такого самостоятельного мышления. Интеллектуальные компьютеры должны получить возможность мыслить только совместно с человеком. Точнее, только помогать мыслить человеку.
Помня это, отметим еще одну причину, не позволяющую компьютерам мыслить – отсутствие независимой от человека обратной связи. Дело в том, что любая информационная машина – как человек, так и компьютер – может стать мыслящей только постепенно в процессе ее непрерывного обучения. А обучение, в свою очередь возможно только при наличии обратной связи, т. е. при получении информации о результатах своей деятельности, о степени соответствия ее результатов прогнозируемым.
Вот мнение на этот счет профессора массачусетского технологического института Норберта Винера [8] – «Вопрос. Говорят, что вычислительные машины думают. Так ли это? Ответ. Если иметь в виду нынешнее положение вещей, то вычислительные машины могут обучаться. Вычислительные машины могут учиться улучшать свою работу путем ее анализа … Называть ли это мышлением, вопрос терминологический. Что вещи такого рода получат гораздо большее развитие в будущем … в этом, я думаю, не приходится сомневаться».
Причем познание и обучение, являясь компонентами единого процесса мышления, неразрывно связаны и чередуются друг с другом как, например, посевная и уборка урожая. У работников же творческих профессий они даже идут параллельно всю их творческую жизнь.
Поэтому как обычным, так и творческим могут быть не только мышление, но и обучение. И жизненно необходимы оба вида мышления и обучения. Так, обычное нетворческое мышление необходимо каждому человеку для поддержания его жизнедеятельности, а творческое мышление необходимо всему человечеству для его развития.
К обыкновенному обучению – «делай как я», например, относится задание выучить наизусть текст «от сих и до сих» в учебнике, обучение вождению автомобиля и т. д. В результате обыкновенного обучения знания и навыки передаются обучаемому в основном в неизменном виде.
К творческому обучению – «сделай лучше других», например, относится подготовка к участию и участие в конкурсах, олимпиадах, учеба в аспирантуре, докторантуре и т. д. В результате творческого обучения развивается навыки самообучения и самоусовершенствования.
Творческое обучение поэтому включает в себя, по меньшей мере:
• воспитание навыков самостоятельного поиска новой информации – этому способствуют списки рекомендованной литературы, где материал, естественно, излагается по-разному;
• воспитание навыков анализа найденной информации, выделения главного, понимания ее сути и взаимосвязи с остальным материалом – для этого обучаемых учат конспектировать;
• эмоциональную компоненту – для этого в процесс обучения включают игровые элементы, состязательность;
• позитивную мотивацию – от устной похвалы до денежного стимулирования в авторском и патентном законодательстве.
Такое обучение уже существует сейчас. Но оно будет тем более эффективным, чем более станет компьютеризованным. Другими словами, назрела необходимость преобразования процесса обучения в паре преподаватель/ученик в процесс обучения в триаде преподаватель/компьютер/ученик.
Переход на новые организационные формы обучения можно начинать уже сейчас, используя персональные компьютеры и существующий Интернет. При этом в домашние персональные компьютеры учеников через Интернет или с машинных носителей должны загружаться по меньшей мере:
• необходимые учебники и учебные пособия;
• материалы конкурсов, олимпиад, школьных и студенческих конференций;
• художественная литература, энциклопедии, словари;
• научно-популярная литература, в том числе периодические издания;
• программы-переводчики, обучающие и иные развивающие программы.
Причем электронные версии, например, учебников должны отличаться наличием значительного количества гиперссылок, обширных разделов с возможными вопросами и ответами на них. Более того, учебники должны быть разных уровней сложности, рассчитанными как на средне развитых, так и на особо одаренных, и даже на отсталых учащихся. Должны быть электронные учебники для учащихся школ с физико-математическим, гуманитарным, биологическим, кибернетическим и иным уклоном. Другими словами, должны быть созданы все условия для обучения с учетом индивидуальных особенностей обучаемых.
А по мере развертывания компьютерно-телевизионной сети Теланнет, подключения к ним домашних компьютеров учащихся и оснащения их дополнительным программным обеспечением эти компьютеры нужно научить стать интеллектуальными помощниками преподавателей.
4.3. Использование компьютерного интеллекта для решения экономических задач
Познание многофакторных процессов в экономике является не менее важным, чем в науке. Действительно, несмотря на поражающие успехи мировой экономики в ХХ веке, экономическое развитие общества осуществляется все-таки намного медленнее, чем это позволяет современная наука и техника. Приведем по этому поводу только одну цитату [6]: «…посмотрим на глубокий застой в экономике, высокий уровень безработицы… Все эти явления, действительно имеющие место, на первый взгляд совершенно необъяснимы. …научно-техническое развитие происходит не просто с постоянной скоростью: каким бы способом мы ни оценивали его темпы, очевидно, что они неуклонно возрастают. Почему же мы не богатеем такими же темпами… Становится все яснее, что именно сложность управленческого механизма повинна в нашем экономическом застое».
С другой стороны, повышение производительности труда за последние десятилетия благодаря новым информационным технологиям привело к качественным изменениям экономики – появлению новых явлений, которым соответствуют термины декапитализация, глобализация, постиндустриальное общество. Они, в частности, отражают тот факт, что в стоимости конечного продукта доля затрат, обусловленных интеллектуальным трудом, все больше и больше возрастает. Появилось большое число чисто интеллектуальных продуктов, в стоимости которых доля, обусловленная неинтеллектуальным трудом и сырьем, вообще может отсутствовать: патенты, ноу-хау, программное обеспечение, маркетинговые исследования и т. д. Число таких продуктов неуклонно возрастает. И сегодня развитые страны – это те страны, в которых доля интеллектуального труда в стоимости конечного продукта уже превышает доли неинтеллектуального труда и сырья.
Инвестиционная привлекательность интеллектуального труда значительно (на много порядков) выше инвестиционной привлекательности иных видов труда. Поэтому интеллектуальный труд наиболее интенсивно используют преимущественно богатые страны, где выше общеобразовательный уровень населения, лучше телекоммуникационная инфраструктура и обеспечен наивысший уровень жизни высококвалифицированной части работников-интеллектуалов. И от этого такие страны становятся еще более богатыми.
Рассмотренные выше новые информационные технологии, соответствующие решениям некоторых задач проблемы КИ, позволяют повысить эффективность не только научной, но также и предпринимательской деятельности, что позволит ускорить экономическое развитие стран, которые будут их использовать.
К таким новым информационным технологиям, предназначенным для поддержки бизнеса, относится глобальная компьютерно-телевизионная биржевая система [20], [21].
Такая глобальная/региональная компьютерно-телевизионная биржевая система содержит те же компоненты, что и ранее рассмотренная информационная сеть Теланнет. С единственным отличием – наличием узкополосной сети (например, телефонной, почтовой и др.) обратной связи от персональных компьютеров к региональным информационным центрам.
Это позволит создать наиважнейшую службу Теланнета – самый совершенный и самый крупный электронный рынок. Наличие в Теланнете такой службы позволит сделать соответствующий инвестиционный проект максимально привлекательным, поскольку обеспечит его быструю окупаемость.
Общедоступная компьютерно-телевизионная биржевая система функционирует следующим образом. Существующие банки данных, служащие биржевыми центрами, традиционным образом непрерывно накапливают биржевую информацию, которая приходит к ним из своих регионов по узкополосным линиям связи через существующие недорогие устройства ввода/вывода информации (например, модемы) и других регионов по широкополосным линиям связи. При этом первые, например, 24 часа она сохраняется в разделе памяти для новых данных, а затем передается в раздел архивной памяти. Компьютером администратора банка данных вся новая информация систематизируется, обеспечивается индексами соответствующих классификаторов и периодическими выпусками подается на региональный приемно-передающий центр, откуда в конечном счете распространяется по своему региону и всему свету.
Пользователи компьютеров после обработки принятой информации по узкополосным линиям обратной связи сообщают в региональный центр свои решения про покупку/продажу с указанием индексов соответствующих товаров, услуг и т. д. Они также по тем же узкополосным каналам обратной связи вносят свои предложения для торгов. При этом они, естественно, осуществляют необходимые банковские операции. В биржевом центре на основе этой информации принимают решения в соответствии с указаниями собственников товаров, услуг и т. д.
Рассмотренная биржевая система с использованием широкополосных телевизионных, в том числе геостационарных спутниковых, каналов связи для компьютерно-телевизионного вещания и узкополосных каналов обратной связи может быть развернута очень быстро.
Такая компьютерно-телевизионная биржевая система позволит ее абонентам сделать свой бизнес (особенно малый и средний бизнес, не имеющий мощных рекламных и маркетинговых служб) значительно более прибыльным и интеллектуальным, так как:
• позволит существенно повысить уровень понимания конъюнктуры рынка и тем самым увеличить эффективность принимаемых бизнесменами решений своих проблем;
• максимально сблизит продавцов и покупателей;
• позволит значительно ускорить оборот финансовых средств.
Идеи носятся в воздухе!
Оказывается только что рассмотренная идея использования КИ для значительного повышения эффективности предпринимательской деятельности уже реализуется на базе существующего Интернета [22] - [24]. Правда, пока что применительно только к деятельности на электронном валютном рынке ФОРЕКС (Foreign Exchange Market). Для этого предложено использовать так называемых «торговых роботов», под которыми автор понимает специальные компьютерные программы анализа финансово-биржевой информации и принятия решений. То есть, кроме новых программ, в этом варианте использования КИ ничего нового больше нет, а все остальные аппаратно-программные средства уже имеются на рынке.
Естественно, в указанных публикациях во избежание убытков своим коммерческим интересам ни программы, ни алгоритмы работы «торговых роботов» не раскрываются. Т. е. эти публикации носят в значительной степени рекламный характер.
Однако очевидно, что в программе используется базовый принцип любых биржевых торгов – покупать, когда курс минимален, и продавать, когда курс максимален. Тем не менее этот принцип очень трудно реализовать на практике, так как очень трудно предвидеть изменения биржевого курса. Для преодоления указанного затруднения обычно используются разные прогнозные оценки на какой-то продолжительный интервал времени. Поэтому большинство биржевых сделок относятся к категории среднесрочных или долгосрочных. Тем не менее, эти прогнозы часто бывают ошибочными.
Приведем пример. Великая депрессия в США началась в октябре 1929 года. А в начале того же 1929 года в своей инаугурационной речи президент США Герберт Гувер говорил: «У меня нет опасений за будущее нашей страны… Мы смотрим в будущее с оптимизмом». Действительно, в январе 1929 года курсы биржевых индексов были в три раза выше, чем пять лет назад. Но уже к концу октября 1929 года индекс Доу-Джонса упал почти вдвое. А в 1932 году металлургическая промышленность США работала едва на 12 % своих производственных мощностей.
В программе же «торговый робот», используются краткосрочные сделки (например, внутрисуточные), при которых смена котировок биржевых активов обычно очень мала и никак не предсказуема. Поэтому трейдеры на валютном рынке ФОРЕКС их не используют. А компьютерная программа «торговый робот» использует. Как? Это - секрет автора.
Сравнение рассмотренных выше разных вариантов использования КИ в экономике позволяет сделать следующие выводы. Очевидным достоинством «торговых роботов» является то обстоятельство, что они уже существуют и работают. Причем работают эффективно.
Преимуществами же компьютерно-телевизионной биржевой системы по сравнению с «торговыми роботами» являются:
• ее универсальность, т. е. возможность использования не только в качестве валютных рынков, но также любых бирж;
• существенно более высокая скорость трансляции биржевой информации по сети Теланнет;
• практически полная информационная безопасность использования информационной сети Теланнет;
• возможность решения на компьютерах, оснащенных персональной памятью, разнообразных интеллектуальных предпринимательских задач.
И поскольку в современных условиях судьбу биржевой сделки могут решить доли секунды, Теланнет, обеспечивающий на несколько порядков более высокую скорость передачи информации и полную информационную безопасность по сравнению с существующим Интернетом, представляется просто жизненно необходимым.
5. Выводы
И вот такой интеллектуальный компьютер, доступный массовому пользователю (современным Архимедам, да Винчи, Эдисонам, Тесла), позволит значительно повысить эффективность творческого труда, который всегда является индивидуальным. Более того, такой интеллектуальный компьютер позволит творческий труд сделать массовым.
Реализация этой возможности в науке, очевидно, оказала бы существенное влияние на развитие человечества. Например, стало бы возможным осуществить успешную разработку:
• новых высокоэффективных средств лечения болезней – в том числе рака, СПИДа, сердечно-сосудистых заболеваний;
• новых высокоэффективных средств получения и аккумулирования энергии, например, с использованием термоядерной реакции и явления шаровой молнии;
• аппаратуры, позволяющей осуществлять долгосрочные прогнозы погоды, землетрясений и др. стихийных бедствий.
Реализация этой возможности в обучении позволила бы сделать доступным массовое творческое обучение в любом уголке страны практически на уровне существующих элитных учебных заведений.
Реализация этой возможности в экономике оказала бы еще большее влияние на развитие человечества, так как оказала бы непосредственное влияние на благосостояние людей.
В 1831 году один член британского парламента спросил основоположника теории электричества Майкла Фарадея, какую пользу людям могут принести его работы. Фарадей ответил, что не знает. И через некоторое время началась промышленная революция, порожденная использованием электричества.
А сейчас новые информационные технологии настолько эффективны и настолько изменяют мировую экономику, что новая промышленная революция может начаться уже завтра [25].
Использованная литература
1. Вернадский В. И.. Научная мысль как планетное явление - М.: Наука. 1991.
2. Сорос Джордж. Сорос о Соросе. Опережая перемены. - М.: ИНФРА-М, 1996 г.
3. Зенкевич И. Г. Не интегралом единым. Приокское книжное издательство. Тула. 1971.
4. Хазен А. М. О возможном и невозможном в науке. – М.: Наука, 1988.
5. Булгаков М. А. Мастер и Маргарита. http://lib.ru/BULGAKOW/
6. Мичи Д., Джонстон Р. Компьютер-творец. – М.: Мир, 1987.
7. Куклин В. М. Заражение разумом, или пути создания искусственного интеллекта. – «Университеты» № 4. 2004 – Харьков. Издатель: Медиа-группа «Окна». – с. 84 – 90.
8. Винер Н. Кибернетика или управление и связь в животном и машине. – «Советское радио», М., 1968.
9. Большая энциклопедия Кирилла и Мефодия - М.: Кирилл и Мефодий, 2004. – 1 электронный оптический диск (CD-ROM).
10. Солсо Роберт. Мышление и интеллект – естественный и искусственный. http//: hdseven.ru/intel/inoth/myshlen.
11. Винер Н. Кибернетика и общество. М. Иностранная литература. 1971.
12. Антонов А. А., Карнаух Н. А. Может ли компьютер мыслить. «Освітній портал». http://osvita.org.ua/articles/?article_id=19
13. Antonov A. A. Personal memory for personal computer. International Symposium on High-Density Data Recording and Retrieval Technologies. SPIE Proceedings Vol. 2604. St. Paul, Minnesota, USA. 1995.
http://spie.org/web/abstracts/2600/2604.html
14. Antonov A. A. Personal memory for personal computer. International Symposium «Voice, Video and Data Communications». Dallas. Texas. USA. 1997. http://spie.org/web/meetings/programs/vv97/conferences/3228a.html
15. Antonov A. A. Personal memory. International Symposium on Advanced Optical Memories and Interfaces to Computer Storage. Proceeding of SPIE Vol. 3468. San Diego, California, USA. 1998.
http://spie.org/web/meetings/programs/sd98/confs/3468.html
16. Антонов О. О. Персональна пам’ять для персональних комп’ютерів. “Винахідник України”. – К.: ЕКМО, 2’1999/1’2000. - с. 76-84.
17. Antonov A. A. TV adapter for personal memory system. International Symposium «Voice, Video and Data Communications». Dallas. Texas. USA. 1997.
http://spie.org/web/meetings/programs/vv97/conferences/3228a.html
18. Антонов А. А. Новая глобальная информационная сеть Теланнет
http://ideaclub.ru/articles/idea3842.html
19. Интернет прекратит свое существование в 2006 году? http:// inauka.ru/cjmputer/article50452
20. Antonov A. A., Antonova O. I. Computer-television exchange system. International Symposium «Voice, Video and Data Communications». Dallas. Texas. USA. 1997.
http://spie.org/web/meetings /programs/vv97/conferences/3228a.html
21. Антонов О. О. Супутникова комп’ютерно-телевізійна біржова система. “Винахідник України”. – К.: ЕКМО, 2’1999/1’2000. - с. 71-76.
22. Чеботарев Ю. Торговые роботы как новая альтернатива - «Валютный спекулянт» № 07 (57). 2004.
23. Чеботарев Ю. Торговые роботы: от инстинкта к алгоритму - «Валютный спекулянт» № 08 (58). 2004.
24. Чеботарев Ю. Торговые роботы: вне политики, вне рейтингов - «Валютный спекулянт» № 11 (61). 2004.
25. Антонов А. А. На пороге новой промышленной революции.
http://bizbank.ru/modules.php?name=News&file=article&mode=&order=0&thold=0