Azərbaycanca
Беларускі
Dansk
Deutsch
Española
Français
Indonesia
Italiana
日本語
Қазақ
Lietuvos
Nederlands
Português
Русский
සිංහල
แบบไทย
Türkçe
Українська
中國人
United State
Afrikaans
| Ця стаття потребує додаткових для поліпшення її . (січень 2021) |
Про інтелект: Як нове розуміння мозку призведе до створення справді розумних машин (англ. On Intelligence: How a New Understanding of the Brain will Lead to the Creation of Truly Intelligent Machines) — це книга 2004 року винахідника Palm Pilot [en] з популяризаторкою науки в New York Times [en]. Ця книга пояснює теорію мозку системи пам'яті—передбачування Гокінса та описує деякі її наслідки.
| Автор | [en] і [en] |
|---|---|
| Країна | США |
| Мова | англійська |
| Тема | психологія |
| Жанр | популяризація науки |
| Видавництво | [en] |
| Видано | 2004 |
| Тип носія | м'яка обкладинка |
| Сторінок | 272 |
| ISBN | 0-8050-7456-2 |
Опис
Гокінс описує цю книгу так:
Книга починається з певної довідки про те, чому попередні спроби зрозуміти розум та побудувати розумні машини зазнали невдачі. Потім я представляю й розвиваю основну ідею теорії, яку я називаю системою пам’яті—передбачування. У главі 6 я докладно розповідаю, як фізичний мозок втілює модель пам’яті—передбачування — іншими словами, як насправді працює мозок. Потім я обговорюю соціальні та інші наслідки цієї теорії, що для багатьох читачів може бути найспонукальнішою главою. Завершується книга обговоренням розумних машин — як ми можемо їх будувати, та на що буде схожим майбутнє. (стор. 5)
Особиста історія
Перша глава — це коротка історія зацікавлення Гокінса нейронаукою, поєднана з історією досліджень штучного інтелекту. Гокінс використовує історію своєї невдалої спроби вступу до Массачусетського технологічного інституту, щоби проілюструвати конфлікт ідей. Гокінс вірив (і нібито продовжує вірити), що створення справжнього штучного інтелекту стане можливим лише за умови інтелектуального прогресу в дисципліні нейронауки. Гокінс пише, що науковий істеблішмент (який символізує МТІ) історично відкидав актуальність нейронауки для штучного інтелекту. Дійсно, деякі дослідники штучного інтелекту «пишалися ігноруванням нейробіології» (с. 12).
Гокінс є інженером-електротехніком за освітою та нейронауковцем за покликанням. Щоби сформулювати свою систему, він використовував як поняття електротехніки, так і дослідження нейронауки. Зокрема, Гокінс трактує поширення нервових імпульсів у нашій нервовій системі як задачу кодування, а саме як скінченний автомат передбачування майбутнього, подібний за принципом до скінченних автоматів з [en] для виправляння помилок.
Теорія
Основна ідея Гокінса полягає в тім, що мозок є механізмом для передбачування майбутнього, а саме, ієрархічні області мозку передбачують свої майбутні входові послідовності. Можливо, не завжди далеко в майбутньому, але досить далеко, щоб це мало реальну користь для організму. Таким чином, мозок є [en] з [en], з особливими властивостями, які дозволяють йому навчатися.
Цей скінченний автомат фактично керує поведінкою організму. Оскільки він є скінченним автоматом з [en], цей автомат реагує на майбутні події, передбачувані з даних минулого.
Ця ієрархія є здатною запам'ятовувати часто спостережувані послідовності ([en]) образів та виробляти інваріантні подання. Вищі рівні кортикальної ієрархії передбачують майбутнє в тривалішому часовому вимірі або в ширшій області сенсо́рних даних. Нижчі рівні інтерпретують або контролюють обмежені області визначення відчуттів, або сенсо́рні чи ефекторні системи. З'єднання зі станів вищого рівня спонукають деякі обрані переходи в автоматах нижчого рівня.
Частиною цієї системи є геббове навчання, в якому подія навчання фізично змінює нейрони та з'єднання, коли навчання відбувається.
Базовим елементом цієї системи є кортикальна колонка у формулюванні [en]. Гокінс приділяє особливу увагу ролі взаємних зв'язків між одноранговими колонками, та активуванню колонок як цілого. Він рішуче припускає, що колонка — це фізичне представлення скінченного автомату в корі.
З його точки зору як інженера, будь-яка конкретна невдача знайти природну присутність якогось процесу його системи не є сигналом про помилку в системі пам'яті—передбачування як такій, а лише сигналізує про те, що цей природний процес здійснив функційний розклад Гокінса в інший, несподіваний спосіб, бо мотивацією Гокінса є створення розумних машин. Наприклад, для цілей його системи для формування часової послідовності можуть братися нервові імпульси (але можливим втіленням такої послідовності може бути й фазове кодування; для системи ці деталі не мають значення).
Передбачення теорії системи пам'яті—передбачування
Його передбачення як прототип для деяких прикладів передбачень, таких як передбачення 2, 8, 10 та 11, використовують зорову систему. Інші передбачення посилаються на слухову систему (передбачення 1, 3, 4 та 7).
- Додаток з 11 перевірних передбачень:
Посилена нервова активність в очікуванні сенсо́рної події
1. Гокінс (2004) передбачає, що в усіх областях кори «ми повинні знайти випереджальні клітини» (англ. anticipatory cells), клітини, які спрацьовують в очікуванні сенсо́рної події.
- Примітка: Станом на 2005 було зроблено спостереження спрацьовування дзеркальних нейронів перед очікуваною подією.
Просторове передбачення
2. У первинній сенсо́рній корі Гокінс передбачає, наприклад, що «ми повинні знайти випереджальні клітини в або поблизу V1, в точному місці зорового поля (сцени)». Експериментально було визначено, наприклад, після картографування кутового положення деяких об'єктів у зоровому полі, що матиме місце однозначна відповідність клітин у сцені кутовим положенням цих об'єктів. Гокінс передбачує, що коли ознаки візуальної сцени є відомими пам'яті, то випереджальні клітини повинні спрацьовувати до того, як фактичні об'єкти буде побачено у цій сцені.
Передбачування повинне припиняти поширюватися в кортикальній колонці на шарах II та III
3. У шарах II та III передбачувальна активність (спрацьовування нейронів) повинна припиняти поширюватися на певних клітинах, що відповідають конкретному передбаченню. Гокінс не виключає випереджальних клітин у шарах IV та V.
«Клітини назв» у шарах II та III повинні з'єднуватися переважно з клітинами VI шару кори
4. Навчені послідовності спрацьовувань містять подання сталих в часі інваріантів (англ. temporally constant invariants). Клітини, які спрацьовують у цій послідовності, Гокінс називає «клітинами назв» (англ. "name cells"). Гокінс припускає, що ці клітини назв перебувають у шарі II, фізично суміжнім із шаром I. Гокінс не виключає існування клітин шару III з дендритами в шарі I, які можуть працювати як клітини назв .
«Клітини назв» повинні залишатися увімкненими протягом навченої послідовності
5. За визначенням, сталий в часі інваріант буде активним протягом навченої послідовності. Гокінс стверджує, що ці клітини залишатимуться активними, поки триває навчена послідовність, навіть якщо решта кортикальної колонки стан змінює. Оскільки ми не знаємо кодування послідовності, ми ще не знаємо визначення увімкненості або активності; Гокінс припускає, що схема увімкнено може бути настільки ж простою, як одночасне ТА (тобто клітини назв одночасно «засвічуються») над масивом клітин назв.
- Див. (Нейронний ансамбль § Кодування) про нейрони бабусі, які виконують цей тип функцій.
«Клітини винятків» повинні залишатися вимкненими протягом навченої послідовності
6. Новаторське передбачення Гокінса полягає в пригнічуванні певних клітин протягом навченої послідовності. Певний клас клітин у шарах II та III повинен не спрацьовувати протягом навченої послідовності, аксони цих «клітин винятків» (англ. "exception cells") повинні спрацьовувати лише якщо локальне передбачення не справджується. Це запобігає заливанню мозку звичними відчуттями, залишаючи для подальшої обробки лише винятки.
«Клітини винятків» повинні поширювати неочікувані події
7. Якщо трапляється незвична подія (навчена послідовність зазнає́ невдачі), повинні спрацьовувати «клітини винятків», поширюючи кортикальною ієрархією вгору до гіпокампу, сховища нових спогадів.
«Клітини Ага!» повинні запускати передбачувальну активність
8. Гокінс передбачує каскад передбачень коли стається розпізнавання, що поширюється кортикальною колонкою донизу (наприклад, з кожною саккадою ока над навченою сценою).
Пірамідні нейрони повинні виявляти збіги синаптичної активності на тонких дендритах
9. [en] повинні бути здатними виявляти збіги подій на тонких дендритах, навіть для нейрона з тисячами синапсів. Гокінс постулює часове вікно (передбачаючи кодоване часом спрацьовування), що є необхідним, щоби його теорія залишалася життєздатною.
Навчені подання з тренуванням рухаються кортикальною ієрархією донизу
10. Гокінс постулює, що, наприклад, якщо [en] рівень навчився якоїсь послідовності, то клітини V4 зрештою також її навчаться.
«Клітини назв» існують в усіх областях кори
11. Гокінс передбачує, що «клітини назв» буде знайдено в усіх областях кори.
Див. також
- Ієрархічна часова пам'ять, технологія стартапу Numenta Inc. Гокінса для відтворення властивостей нової кори.
- Система пам'яті—передбачування
Примітки
- Hawkins, Jeff (2004). On Intelligence (вид. 1st). Times Books. с. 272. ISBN . (англ.)
- Fogassi, Leonardo; Ferrari, Pier Francesco; Gesierich, Benno; Rozzi, Stefano; Chersi, Fabian; Rizzolatti, Giacomo (29 квітня 2005). (PDF). Science. 308 (5722): 662—667. Bibcode:2005Sci...308..662F. doi:10.1126/science.1106138. PMID 15860620. Архів оригіналу (PDF) за 2 жовтня 2006. Процитовано 18 листопада 2006. (англ.)
Посилання
- Офіційний сайт (англ.)
- Джефф Хокинс и Сандра Блейксли. Об интеллекте. — Москва • Санкт-Петербург • Киев : Вильямс, 2016. — 240 с. — 200 прим. — . (рос.)
- George, Dileep; Hawkins, Jeff. A Hierarchical Bayesian Model of Invariant Pattern Recognition in the Visual Cortex. CiteSeerX 10.1.1.132.6744. (англ.)
- — дослідницькі праці та програми, що представляють експериментальні результати з баєсовими моделями системи пам'яті—передбачування (англ.)
- Project Neocortex — проєкт з відкритим кодом для моделювання системи пам'яті—передбачування (англ.)
Відгуки
- Colwell, Bob (January 2005). . Computer. IEEE. 38 (1): 12—15. doi:10.1109/MC.2005.24. Архів оригіналу за 4 лютого 2005. (англ.)
- Colwell, B. (2005). Machine Intelligence Meets Neuroscience. Computer. 38: 12—15. doi:10.1109/MC.2005.24. (англ.)
- Dill, Franz (30 жовтня 2004). . Архів оригіналу за 5 лютого 2012. (англ.)
- Kling, Arnold (22 листопада 2004). . Tech Central Station. Архів оригіналу за 5 березня 2012. (англ.)
- On Biological and Digital Intelligence Огляд від Бена Герцеля (7 жовтня 2004 р.) (англ.)
Вікіпедія, Українська, Україна, книга, книги, бібліотека, стаття, читати, завантажити, безкоштовно, безкоштовно завантажити, mp3, відео, mp4, 3gp, jpg, jpeg, gif, png, малюнок, музика, пісня, фільм, книга, гра, ігри, мобільний, телефон, android, ios, apple, мобільний телефон, samsung, iphone, xiomi, xiaomi, redmi, honor, oppo, nokia, sonya, mi, ПК, web, Інтернет
Cya stattya potrebuye dodatkovih posilan na dzherela dlya polipshennya yiyi perevirnosti Bud laska dopomozhit udoskonaliti cyu stattyu dodavshi posilannya na nadijni avtoritetni dzherela Zvernitsya na storinku obgovorennya za poyasnennyami ta dopomozhit vipraviti nedoliki Material bez dzherel mozhe buti piddano sumnivu ta vilucheno sichen 2021 Pro intelekt Yak nove rozuminnya mozku prizvede do stvorennya spravdi rozumnih mashin angl On Intelligence How a New Understanding of the Brain will Lead to the Creation of Truly Intelligent Machines ce kniga 2004 roku vinahidnika Palm Pilot en z populyarizatorkoyu nauki v New York Times en Cya kniga poyasnyuye teoriyu mozku sistemi pam yati peredbachuvannya Gokinsa ta opisuye deyaki yiyi naslidki Pro intelekt Avtor en i en KrayinaSShAMovaanglijskaTemapsihologiyaZhanrpopulyarizaciya naukiVidavnictvo en Vidano2004Tip nosiyam yaka obkladinkaStorinok272ISBN0 8050 7456 2OpisGokins opisuye cyu knigu tak Kniga pochinayetsya z pevnoyi dovidki pro te chomu poperedni sprobi zrozumiti rozum ta pobuduvati rozumni mashini zaznali nevdachi Potim ya predstavlyayu j rozvivayu osnovnu ideyu teoriyi yaku ya nazivayu sistemoyu pam yati peredbachuvannya U glavi 6 ya dokladno rozpovidayu yak fizichnij mozok vtilyuye model pam yati peredbachuvannya inshimi slovami yak naspravdi pracyuye mozok Potim ya obgovoryuyu socialni ta inshi naslidki ciyeyi teoriyi sho dlya bagatoh chitachiv mozhe buti najsponukalnishoyu glavoyu Zavershuyetsya kniga obgovorennyam rozumnih mashin yak mi mozhemo yih buduvati ta na sho bude shozhim majbutnye stor 5 Osobista istoriyaPersha glava ce korotka istoriya zacikavlennya Gokinsa nejronaukoyu poyednana z istoriyeyu doslidzhen shtuchnogo intelektu Gokins vikoristovuye istoriyu svoyeyi nevdaloyi sprobi vstupu do Massachusetskogo tehnologichnogo institutu shobi proilyustruvati konflikt idej Gokins viriv i nibito prodovzhuye viriti sho stvorennya spravzhnogo shtuchnogo intelektu stane mozhlivim lishe za umovi intelektualnogo progresu v disciplini nejronauki Gokins pishe sho naukovij isteblishment yakij simvolizuye MTI istorichno vidkidav aktualnist nejronauki dlya shtuchnogo intelektu Dijsno deyaki doslidniki shtuchnogo intelektu pishalisya ignoruvannyam nejrobiologiyi s 12 Gokins ye inzhenerom elektrotehnikom za osvitoyu ta nejronaukovcem za poklikannyam Shobi sformulyuvati svoyu sistemu vin vikoristovuvav yak ponyattya elektrotehniki tak i doslidzhennya nejronauki Zokrema Gokins traktuye poshirennya nervovih impulsiv u nashij nervovij sistemi yak zadachu koduvannya a same yak skinchennij avtomat peredbachuvannya majbutnogo podibnij za principom do skinchennih avtomativ z en dlya vipravlyannya pomilok TeoriyaOsnovna ideya Gokinsa polyagaye v tim sho mozok ye mehanizmom dlya peredbachuvannya majbutnogo a same iyerarhichni oblasti mozku peredbachuyut svoyi majbutni vhodovi poslidovnosti Mozhlivo ne zavzhdi daleko v majbutnomu ale dosit daleko shob ce malo realnu korist dlya organizmu Takim chinom mozok ye en z en z osoblivimi vlastivostyami yaki dozvolyayut jomu navchatisya Cej skinchennij avtomat faktichno keruye povedinkoyu organizmu Oskilki vin ye skinchennim avtomatom z en cej avtomat reaguye na majbutni podiyi peredbachuvani z danih minulogo Cya iyerarhiya ye zdatnoyu zapam yatovuvati chasto sposterezhuvani poslidovnosti en obraziv ta viroblyati invariantni podannya Vishi rivni kortikalnoyi iyerarhiyi peredbachuyut majbutnye v trivalishomu chasovomu vimiri abo v shirshij oblasti senso rnih danih Nizhchi rivni interpretuyut abo kontrolyuyut obmezheni oblasti viznachennya vidchuttiv abo senso rni chi efektorni sistemi Z yednannya zi staniv vishogo rivnya sponukayut deyaki obrani perehodi v avtomatah nizhchogo rivnya Chastinoyu ciyeyi sistemi ye gebbove navchannya v yakomu podiya navchannya fizichno zminyuye nejroni ta z yednannya koli navchannya vidbuvayetsya Bazovim elementom ciyeyi sistemi ye kortikalna kolonka u formulyuvanni en Gokins pridilyaye osoblivu uvagu roli vzayemnih zv yazkiv mizh odnorangovimi kolonkami ta aktivuvannyu kolonok yak cilogo Vin rishuche pripuskaye sho kolonka ce fizichne predstavlennya skinchennogo avtomatu v kori Z jogo tochki zoru yak inzhenera bud yaka konkretna nevdacha znajti prirodnu prisutnist yakogos procesu jogo sistemi ne ye signalom pro pomilku v sistemi pam yati peredbachuvannya yak takij a lishe signalizuye pro te sho cej prirodnij proces zdijsniv funkcijnij rozklad Gokinsa v inshij nespodivanij sposib bo motivaciyeyu Gokinsa ye stvorennya rozumnih mashin Napriklad dlya cilej jogo sistemi dlya formuvannya chasovoyi poslidovnosti mozhut bratisya nervovi impulsi ale mozhlivim vtilennyam takoyi poslidovnosti mozhe buti j fazove koduvannya dlya sistemi ci detali ne mayut znachennya Peredbachennya teoriyi sistemi pam yati peredbachuvannyaJogo peredbachennya yak prototip dlya deyakih prikladiv peredbachen takih yak peredbachennya 2 8 10 ta 11 vikoristovuyut zorovu sistemu Inshi peredbachennya posilayutsya na sluhovu sistemu peredbachennya 1 3 4 ta 7 Dodatok z 11 perevirnih peredbachen Posilena nervova aktivnist v ochikuvanni senso rnoyi podiyi 1 Gokins 2004 peredbachaye sho v usih oblastyah kori mi povinni znajti viperedzhalni klitini angl anticipatory cells klitini yaki spracovuyut v ochikuvanni senso rnoyi podiyi Primitka Stanom na 2005 bulo zrobleno sposterezhennya spracovuvannya dzerkalnih nejroniv pered ochikuvanoyu podiyeyu Prostorove peredbachennya 2 U pervinnij senso rnij kori Gokins peredbachaye napriklad sho mi povinni znajti viperedzhalni klitini v abo poblizu V1 v tochnomu misci zorovogo polya sceni Eksperimentalno bulo viznacheno napriklad pislya kartografuvannya kutovogo polozhennya deyakih ob yektiv u zorovomu poli sho matime misce odnoznachna vidpovidnist klitin u sceni kutovim polozhennyam cih ob yektiv Gokins peredbachuye sho koli oznaki vizualnoyi sceni ye vidomimi pam yati to viperedzhalni klitini povinni spracovuvati do togo yak faktichni ob yekti bude pobacheno u cij sceni Peredbachuvannya povinne pripinyati poshiryuvatisya v kortikalnij kolonci na sharah II ta III 3 U sharah II ta III peredbachuvalna aktivnist spracovuvannya nejroniv povinna pripinyati poshiryuvatisya na pevnih klitinah sho vidpovidayut konkretnomu peredbachennyu Gokins ne viklyuchaye viperedzhalnih klitin u sharah IV ta V Klitini nazv u sharah II ta III povinni z yednuvatisya perevazhno z klitinami VI sharu kori 4 Navcheni poslidovnosti spracovuvan mistyat podannya stalih v chasi invariantiv angl temporally constant invariants Klitini yaki spracovuyut u cij poslidovnosti Gokins nazivaye klitinami nazv angl name cells Gokins pripuskaye sho ci klitini nazv perebuvayut u shari II fizichno sumizhnim iz sharom I Gokins ne viklyuchaye isnuvannya klitin sharu III z dendritami v shari I yaki mozhut pracyuvati yak klitini nazv Klitini nazv povinni zalishatisya uvimknenimi protyagom navchenoyi poslidovnosti 5 Za viznachennyam stalij v chasi invariant bude aktivnim protyagom navchenoyi poslidovnosti Gokins stverdzhuye sho ci klitini zalishatimutsya aktivnimi poki trivaye navchena poslidovnist navit yaksho reshta kortikalnoyi kolonki stan zminyuye Oskilki mi ne znayemo koduvannya poslidovnosti mi she ne znayemo viznachennya uvimknenosti abo aktivnosti Gokins pripuskaye sho shema uvimkneno mozhe buti nastilki zh prostoyu yak odnochasne TA tobto klitini nazv odnochasno zasvichuyutsya nad masivom klitin nazv Div Nejronnij ansambl Koduvannya pro nejroni babusi yaki vikonuyut cej tip funkcij Klitini vinyatkiv povinni zalishatisya vimknenimi protyagom navchenoyi poslidovnosti 6 Novatorske peredbachennya Gokinsa polyagaye v prignichuvanni pevnih klitin protyagom navchenoyi poslidovnosti Pevnij klas klitin u sharah II ta III povinen ne spracovuvati protyagom navchenoyi poslidovnosti aksoni cih klitin vinyatkiv angl exception cells povinni spracovuvati lishe yaksho lokalne peredbachennya ne spravdzhuyetsya Ce zapobigaye zalivannyu mozku zvichnimi vidchuttyami zalishayuchi dlya podalshoyi obrobki lishe vinyatki Klitini vinyatkiv povinni poshiryuvati neochikuvani podiyi 7 Yaksho traplyayetsya nezvichna podiya navchena poslidovnist zaznaye nevdachi povinni spracovuvati klitini vinyatkiv poshiryuyuchi kortikalnoyu iyerarhiyeyu vgoru do gipokampu shovisha novih spogadiv Klitini Aga povinni zapuskati peredbachuvalnu aktivnist 8 Gokins peredbachuye kaskad peredbachen koli stayetsya rozpiznavannya sho poshiryuyetsya kortikalnoyu kolonkoyu donizu napriklad z kozhnoyu sakkadoyu oka nad navchenoyu scenoyu Piramidni nejroni povinni viyavlyati zbigi sinaptichnoyi aktivnosti na tonkih dendritah 9 en povinni buti zdatnimi viyavlyati zbigi podij na tonkih dendritah navit dlya nejrona z tisyachami sinapsiv Gokins postulyuye chasove vikno peredbachayuchi kodovane chasom spracovuvannya sho ye neobhidnim shobi jogo teoriya zalishalasya zhittyezdatnoyu Navcheni podannya z trenuvannyam ruhayutsya kortikalnoyu iyerarhiyeyu donizu 10 Gokins postulyuye sho napriklad yaksho en riven navchivsya yakoyis poslidovnosti to klitini V4 zreshtoyu takozh yiyi navchatsya Klitini nazv isnuyut v usih oblastyah kori 11 Gokins peredbachuye sho klitini nazv bude znajdeno v usih oblastyah kori Div takozhIyerarhichna chasova pam yat tehnologiya startapu Numenta Inc Gokinsa dlya vidtvorennya vlastivostej novoyi kori Sistema pam yati peredbachuvannyaPrimitkiHawkins Jeff 2004 On Intelligence vid 1st Times Books s 272 ISBN 978 0805074567 angl Fogassi Leonardo Ferrari Pier Francesco Gesierich Benno Rozzi Stefano Chersi Fabian Rizzolatti Giacomo 29 kvitnya 2005 PDF Science 308 5722 662 667 Bibcode 2005Sci 308 662F doi 10 1126 science 1106138 PMID 15860620 Arhiv originalu PDF za 2 zhovtnya 2006 Procitovano 18 listopada 2006 angl PosilannyaOficijnij sajt angl Dzheff Hokins i Sandra Blejksli Ob intellekte Moskva Sankt Peterburg Kiev Vilyams 2016 240 s 200 prim ISBN 978 5 8459 2067 6 ros George Dileep Hawkins Jeff A Hierarchical Bayesian Model of Invariant Pattern Recognition in the Visual Cortex CiteSeerX 10 1 1 132 6744 angl doslidnicki praci ta programi sho predstavlyayut eksperimentalni rezultati z bayesovimi modelyami sistemi pam yati peredbachuvannya angl Project Neocortex proyekt z vidkritim kodom dlya modelyuvannya sistemi pam yati peredbachuvannya angl Vidguki Colwell Bob January 2005 Computer IEEE 38 1 12 15 doi 10 1109 MC 2005 24 Arhiv originalu za 4 lyutogo 2005 angl Colwell B 2005 Machine Intelligence Meets Neuroscience Computer 38 12 15 doi 10 1109 MC 2005 24 angl Dill Franz 30 zhovtnya 2004 Arhiv originalu za 5 lyutogo 2012 angl Kling Arnold 22 listopada 2004 Tech Central Station Arhiv originalu za 5 bereznya 2012 angl On Biological and Digital Intelligence Oglyad vid Bena Gercelya 7 zhovtnya 2004 r angl