МІНІСТЕРСТВО ОСВІТИ І НАУКИ
РОСІЙСЬКОЇ ФЕДЕРАЦІЇ
Інститут математики і комп'ютерних наук
Реферат
на тему:
Нейронні мережі
Т 2009
Зміст
Історія нейронних мереж
Аналогія з мозком
Біологічний нейрон
Штучний нейрон
Навчання штучних нейронних мереж
Застосування нейронних мереж
Список літератури
Історія нейронних мереж
Вивченню людського мозку - тисячі років. З появою сучасної електроніки, почалися спроби апаратного відтворення процесу мислення. Перший крок був зроблений в 1943 р. з виходом статті нейрофізіолога Уоррена Маккалоха (Warren McCulloch) і математика Уолтера Піттса (Walter Pitts) про роботу штучних нейронів і представлення моделі нейронної мережі на електричних схемах.
1949 р. - опублікована книга Дональда Хебба (Donald Hebb) "Організація поведінки", де досліджена проблематика налаштування синаптичних зв'язків між нейронами.
1950-і рр.. - З'являються програмні моделі штучних нейромереж. Перші роботи проведені Натаніель Рочестером (Nathanial Rochester) з дослідницької лабораторії IBM. І хоча подальші реалізації були успішними, ця модель зазнала невдачі, оскільки бурхливе зростання традиційних обчислень залишив у тіні нейронні дослідження.
1956 р. - Дартмутський дослідний інститут штучного інтелекту забезпечив підйом штучного інтелекту, зокрема, нейронних мереж. Стимулювання досліджень штучного інтелекту розділилося на два напрямки: промислові застосування систем штучного інтелекту (Експертні системи) та моделювання мозку.
1958 р. - Джон фон Нейман (John fon Neumann) запропонував імітацію простих функцій нейронів з використанням вакуумних трубок.
1959 р. - Бернард Відроу (Bernard Widrow) і марсіан Хофф (Marcian Hoff) розробили моделі ADALINE і MADALINE (Множинні Адаптивні Лінійні Елементи (Multiple ADAptive LINear Elements)). MADALINE діяла, як адаптивний фільтр, що усувають відлуння на телефонних лініях. Ця нейромережа до цих пір в комерційному використанні.
Нейробіолог Френк Розенблатт (Frank Rosenblatt) почав роботу над перцептроном. Одношаровий перцептрон був збудований апаратно і вважається класичної нейромережею. Тоді перцептрон використовувався для класифікації вхідних сигналів в один з двох класів. На жаль, одношаровий перцептрон був обмеженим і зазнав критики в 1969 р., в книзі Марвіна Мінскі (Marvin Minsky) і Сеймура Пейперта (Seymour Papert) "Перцептрони".
Ранні успіхи, сприяли перебільшення потенціалу нейронних мереж, зокрема в світлі обмеженої на ті часи електроніки. Надмірне сподівання, процвітаюче в академічному та технічному світі, заразило загальну літературу цього часу. Побоювання, що ефект "мислячої машини "відіб'ється на людині весь час підігрівався письменниками, в Зокрема, серія книг Азімова про роботів показала наслідки на моральних цінностях людини, у разі можливості інтелектуальних роботів виконувати функції людини.
Ці побоювання, об'єднані з невиконаними обіцянками, викликали безліч розчарувань фахівців, що піддав критиці дослідження нейронних мереж. Результатом було припинення фінансування. Період спаду тривав до 80-х років.
1982 р. - до відродження інтересу призвело кілька подій. Джон Хопфилд (John Hopfield) представив статтю в національну Академію Наук США. Підхід Хопфілда показав можливості моделювання нейронних мереж на принципі нової архітектури.
У той же час у Кіото (Японія) відбулася Об'єднана американо-японська конференція по нейронних мережах, які оголосили досягненням п'ятої генерації. Американські періодичні видання підняли цю історію, акцентуючи, що США можуть залишитися позаду, що призвело до зростання фінансування в області нейромереж.
З 1985 р. Американський Інститут Фізики розпочав щорічні зустрічі - "Нейронні мережі для обчислень".
1989 р. - на зустрічі "Нейронні мережі для оборони" Бернард Видра повідомив аудиторії про початок четвертої світової війни, де полем бою є світові ринки та виробництва.
1990 р. - Департамент програм інноваційних досліджень захисту малого бізнесу назвав 16 основних та 13 додаткових тем, де можливо використання нейронних мереж.
Сьогодні, обговорення нейронних мереж відбуваються скрізь. Перспектива їх використання видається досить яскравою, в світлі рішення нетрадиційних проблем і є ключем до цілої технології. На даний час більшість розробок нейронних мереж принципово працюючі, але можуть існувати процесорні обмеження. Дослідження спрямовані на програмні та апаратні реалізації нейромереж. Компанії працюють над створенням трьох типів нейрочипов: цифрових, аналогових та оптичних, які обіцяють бути хвилею близького майбутнього.
Аналогія з мозком
Точна робота мозку людини - все ще таємниця. Тим не менш, деякі аспекти цього дивовижного процесора відомі. Базовим елементом мозку людини є специфічні клітини, відомі як нейрони, здатні запам'ятовувати, думати і застосовувати попередній досвід до кожної дії, що відрізняє їх від інших клітин тіла.
Кора головного мозку людини є плоскою, утвореної з нейронів поверхнею, товщиною від 2 до 3 мм площею близько 2200 см 2 , що вдвічі перевищує площу поверхні стандартної клавіатури. Кора головного мозку містить близько 10 11 нейронів, що приблизно дорівнює числу зірок Чумацького шляху. Кожен нейрон зв'язаний з 10 3 - 10 4 іншими нейронами. В цілому мозок людини має приблизно від 10 14 до 10 15 взаємозв'язків.
Сила людського розуму залежить від числа базових компонент, різноманіття з'єднань між ними, а також від генетичного програмування і навчання.
Індивідуальний нейрон є складним, має свої складові, підсистеми та механізми управління і передає інформацію через велика кількість електрохімічних зв'язків. Налічують близько сотні різних класів нейронів. Разом нейрони і з'єднання між ними формують Недвійкова, нестійкий і несинхронний процес, що відрізняється від процесу обчислень традиційних комп'ютерів. Штучні нейромережі моделюють лише найголовніші елементи складного мозку, надихаючі вчених і розробників до нових шляхів вирішення проблеми.
Біологічний нейрон
Нейрон (нервова клітка) є особливою біологічною клітиною, яка обробляє інформацію. Вона складається з тіла клітини - соми (Soma), і двох типів зовнішніх деревоподібних відгалужень: аксона (axon) і дендритів (Dendrites). Тіло клітини містить ядро ​​(nucleus), яке містить інформацію про спадкових властивостях нейрона, і плазму, що володіє молекулярними засобами для виробництва необхідних нейрону матеріалів. Нейрон отримує сигнали (Імпульси) від інших нейронів через дендрити (приймачі) і передає сигнали, згенеровані тілом клітки, вздовж аксона (передавача), який в кінці розгалужується на волокна (strands). На закінченнях волокон знаходяться синапси (Synapses) [3].
Рис.1 Біологічний нейрон
Синапс є елементарною структурою і функціональним вузлом між двома нейронами (волокно аксона одного нейрона і дендрит іншого). Коли імпульс досягає синаптичного закінчення, вивільняються певні хімічні речовини, звані нейротрансмиттерами. Нейротрансмітери проходять через синаптичну щілину і, в залежності від типу синапсу, збуджують або гальмують здатність нейрона-приймача генерувати електричні імпульси. Результативність синапсу налаштовується проходять через нього сигналами, тому синапси навчаються в залежності від активності процесів, у яких вони беруть участь. Ця залежність від передісторії діє як пам'ять, яка, можливо, відповідає за пам'ять людини. Нейрони здатні запам'ятовувати, думати і застосовувати попередній досвід до кожної дії, що відрізняє їх від інших клітин тіла. Нейрони взаємодіють за допомогою короткої серії імпульсів. П...
