Зміст
Введення
1. Розпізнавання мови - ключові моменти
2. Можливість використання нейромереж для побудови системи розпізнавання мови
3. Самонавчальні автономні системи
4. Система розпізнавання мови як самонавчається
5. Опис системи
5.1 Введення звуку
5.2 Накладення первинних ознак на вхід нейромережі
5.3 Модель нейромережі
5.4 Навчання нейромережі
6. Застосування
Список використаних джерел
Введення
Я думаю, немає сенсу розповідати про те, навіщо потрібно дослідження штучних нейронних мереж, чим вони привертають дослідників і які нові можливості вони відкривають перед розробниками систем обробки інформації - якщо Ви зараз читаєте цю статтю, то Вам Тож усе ясно. Якщо ж Ви новачок в області нейрокомпьютинга і все, що з ним пов'язано, то існує величезна кількість статей, наукових публікацій, навчальної літератури, присвяченої нейромереж ([1], [5], [6], [8]); написано безліч програм, створено безліч працюючих зразків (від простих дослідних моделей до повнофункціональних промислових систем), в яких використовуються нейромережі. Загалом, теоретичне дослідження нейромережевих алгоритмів ведеться вже давно, і на даний момент вони вже широко застосовуються для вирішення практичних завдань. У зв'язку з очевидною конкурентоспроможністю цього способу обробки інформації в порівнянні з існуючими на сьогоднішній момент традиційними способами особливий інтерес представляє проблема визначення кола завдань, для яких було б ефективним застосування нейромережевих алгоритмів. Розпізнавання образів - це одне із завдань, успішно розв'язуваних нейромереж. Одним з додатків теорії розпізнавання образів є розпізнавання мови. Проблема розпізнавання мови як одна з складових штучного інтелекту давно приваблювала дослідників, і на сьогоднішній день хоч і досягнуті певні успіхи, вона залишається відкритою. Об'єднана з проблемою синтезу мови, вона представляє дуже цікаве поле для досліджень.
Спробувати застосувати нейромережеві алгоритми на практиці, описати і вирішити виниклі проблеми, а також розробити теорію автономних самообучающихся систем і реалізувати її на конкретному прикладі - ось які завдання ставилися в рамках цієї роботи.
1. Розпізнавання мови - ключові моменти
Що розуміється під розпізнаванням мови? Це може бути перетворення мови в текст, розпізнавання і виконання певних команд, виділення з промови яких або характеристик (наприклад, ідентифікація диктора, визначення його емоційного стану, статі, віку, і т.д.) - все це в різних джерелах може потрапити під це визначення. У моїй роботі під розпізнаванням мови розуміється віднесення звуків мови або їх послідовності (фонем, букв, слів) до якого-небудь класу. Потім цього класу можуть бути зіставлені символи алфавіту - отримаємо систему перетворення мови в текст, або певні дії - отримаємо систему виконання мовних команд. Взагалі цей спосіб обробки мовної інформації може використовуватися на першому рівні якої системи з набагато більш складною структурою. І від ефективності цього класифікатора буде залежати ефективність роботи системи в цілому.
Які проблеми виникають при побудови системи розпізнавання мовлення? Головна особливість мовного сигналу в тому, що він дуже сильно варіюється по багатьом параметрами: тривалість, темп, висота голосу, спотворення, внесені великий мінливістю голосового тракту людини, різними емоційними станами диктора, сильним розходженням голосів різних людей. Два тимчасових уявлення звуку мови навіть для одного й того ж людини, записані в один і той же момент часу, не будуть збігатися. Необхідно шукати такі параметри мовного сигналу, які повністю описували б його (тобто дозволяли б відрізнити один звук мови від іншого), але були б в якійсь мірі інваріантні щодо описаних вище варіацій мови. Отримані таким чином параметри повинні потім порівнюватися із зразками, причому це має бути не просте порівняння на збіг, а пошук найбільшого відповідності. Це змушує шукати потрібну форму відстані в знайденому параметричному просторі.
Далі, обсяг інформації, яку може зберігати система, не безмежний. Яким чином запам'ятати практично нескінченне число варіацій мовних сигналів? Очевидно, тут не обійтися без якої-небудь форми статистичного усереднення.
Ще одна проблема - це швидкість пошуку в базі даних. Чим більше її розмір, тим повільніше буде проводитись пошук - це твердження вірне, але тільки для звичайних послідовних обчислювальних машин. А які ж ще машини зможуть вирішити всі перераховані вище проблеми? - Запитаєте Ви. Абсолютно вірно, це нейромережі.
2. Можливість використання нейромереж для побудови системи розпізнавання мови
Класифікація - Це одна з В«улюбленихВ» для нейромереж завдань. Причому нейромережа може виконувати класифікацію навіть при навчанні без учителя (правда, при цьому утворюються класи не мають сенсу, але ніщо не заважає надалі асоціювати їх з іншими класами, що представляють інший тип інформації - фактично наділити їх сенсом). Будь мовний сигнал можна представити як вектор в якомусь параметричному просторі, потім цей вектор може бути запомнен в нейромережі. Одна з моделей нейромережі, яка навчається без учителя - це самоорганізована карта ознак Кохонена. У ній для множини вхідних сигналів формується нейронні ансамблі, що представляють ці сигнали. Цей алгоритм має здатність до статистичного усереднення, тобто вирішується проблема з варіативністю мови. Як і багато інших нейромережеві алгоритми, він здійснює паралельну обробку інформації, тобто одночасно працюють всі нейрони. Тим самим вирішується проблема зі швидкістю розпізнавання - зазвичай час роботи нейромережі складає декілька ітерацій.
Далі, на основі нейромереж легко будуються ієрархічні багаторівневі структури, при цьому зберігається їх прозорість (можливість їх роздільного аналізу). Так як фактично мова є складовою, тобто розбивається на фрази, слова, літери, звуки, то й систему розпізнавання мови логічно будувати ієрархічну.
Нарешті, ще однією важливою властивістю нейромереж (а на мій погляд, це найперспективніший їх властивість) є гнучкість архітектури. Під цим може бути не зовсім точним терміном я маю на увазі те, що фактично алгоритм роботи нейромережі визначається її архітектурою. Автоматичне створення алгоритмів - це мрія вже декількох десятиліть. Але створення алгоритмів на мовах програмування поки під силу тільки людині. Звичайно, створені спеціальні мови, що дозволяють виконувати автоматичну генерацію алгоритмів, але і вони не набагато спрощують цю задачу. А в нейромережах генерація нового алгоритму досягається простим зміною її архітектури. При цьому можливо отримати абсолютно нове рішення завдання. Ввівши коректне правило відбору, визначальне, краще або гірше нова нейромережа вирішує задачу, і правила модифікації нейромережі, можна в кінці кінців отримати нейромережа, яка вирішить завдання вірно. Всі нейромережеві моделі, об'єднані такою парадигмою, утворюють безліч генетичних алгоритмів. При цьому дуже чітко простежується зв'язок генетичних алгоритмів та еволюційної теорії (звідси і характерні терміни: популяція, гени, батьки-нащадки, схрещування, мутація). Таким чином, існує можливість створення таких нейромереж, які не були вивчені дослідниками або не піддаються аналітичному вивчення, але тим не менш успішно вирішують завдання.
Отже, ми встановили, що завдання розпізнавання мови може бути вирішена за допомогою нейромереж, причому вони мають всі права на конкуренцію зі звичайними алгоритмами.
3. Самонавчальні автономні системи
Чим відрізняється робота, яку виконують роботи і яку може виконати людина? Роботи можуть володіти якостями, набагато переважаючими можливості людей: висока точністю, сила, реакція, відсутність втоми. Але разом з тим вони залишаються просто ін...
