Neuronové sítě: Příklad, Definice, Hodnota, Rozsah

Umělá inteligence a neuronové sítě jsou neuvěřitelně vzrušující a výkonné metody založené na strojovém učení, které se používají k řešení mnoha skutečných problémů. Nejjednodušším příkladem neuronové sítě je studium interpunkce a gramatiky, které automaticky vytvoří zcela nový text s implementací všech pravopisných pravidel.

Historie neuronové sítě

Vědci v oblasti počítačové techniky se již dlouho snaží simulovat lidský mozek. V roce 1943 vyvinuli Warren S. McCullough a Walter Pitts první konceptuální model umělé neuronové sítě. V článku "Logický počet myšlenek týkajících se nervové aktivity" popisují příklad neuronové sítě, pojem neuron - jediná buňka žijící v obecné síti přijímá vstupní data, zpracovává je a generuje výstupní signály.


Jejich práce, stejně jako mnoho jiných vědců, nebyla určena k přesnému popisu práce biologického mozku. Umělá neuronová síť byla vyvinuta jako výpočetní model, který pracuje na principu funkce mozku při řešení široké škály úkolů. Je zřejmé, že existují cviky, které lze snadno vyřešit pro počítač, ale obtížné pro člověka, například extrahování odmocniny od desetimístného čísla. Tento příklad vypočítá neuronovou síť za méně než milisekund a osoba potřebuje minuty. Na druhou stranu existují ty, které jsou neuvěřitelně snadné vyřešit člověka, ale ne pod mocí počítače, například pro výběr obrázku na pozadí.
Vědci strávili spoustu času zkoumáním a prováděním komplexních řešení. Nejběžnějším příkladem neuronové sítě v oblasti výpočetní techniky je rozpoznávání vzoru. Rozsah se liší od optického rozpoznávání znaků a fotografického tisku nebo ručně psaného skenování do digitálního rozpoznání textu.


Biologické kalkulačky

Lidský mozek je extrémně složitý a nejsilnější ze známých počítačů. Jeho vnitřní práce je modelována kolem pojetí neuronů a jejich sítí, známých jako biologické neuronové sítě. Mozok obsahuje asi 100 miliard neuronů, které jsou propojeny těmito sítěmi. Na vysoké úrovni interagují navzájem prostřednictvím rozhraní sestávajícího z terminálů axonů spojených s dendrity prostřednictvím prostorové synapsy. Když mluvíme obyčejně, přenášíme zprávu přes rozhraní, pokud součet vážených vstupů z jednoho nebo více neuronů překročí prahovou hodnotu pro spuštění přenosu. Toto se nazývá aktivace při překročení prahové hodnoty a zpráva se přenáší na další neuron. Souhrnný proces může být matematicky složitý. Vstupní signál je vážená kombinace těchto signálů a vážení každého z nich znamená, že tento vstup může mít jiný vliv na následné výpočty a na konečný výstup sítě.

Prvky neurálního modelu

Hluboké učení je termín používaný pro komplexní neuronové sítě sestávající z několika vrstev. Vrstvy se skládají z uzlů. Uzel je jen místoexistuje výpočet, který funguje, když čelí dostatečným podnětům. Uzel kombinuje sadu vstupních koeficientů nebo závaží, které buď zesílit nebo zeslabit signálu, čímž se určí význam pro tento úkol.
Sítě s hlubokým učením se liší od společných neuronů s jednou skrytou vrstvou. Příklad výcviku neuronových sítí - sítě Kohonen.
V sítích s hlubokým učením každá vrstva rozpozná daný soubor funkcí založený na původních informacích předchozí úrovně. Další pokrok v neuronové síti, tím těžší předměty, které mohou být detekovány uzly, protože kombinují a recombine objekty z předchozí úrovně. Network-hloubkové studie provedené automaticky vyjmout prvky bez zásahu člověka, na rozdíl od většiny tradičních algoritmů a koncové linie logicky nebo softmax třídič, který přiřazuje pravděpodobnost určitého výsledku a nazývá prognózu.

, Black Box ANN

Umělé neuronové sítě (ANN) - statistického modelu, částečně postaven na biologické neuronové sítě. Jsou schopny zvládnout nelineární vztah mezi vstupy a výstupy paralelně. Charakterizován přítomností takového modelu adaptivních závaží podél drah mezi neurony, které lze přizpůsobit učení algoritmus pro zlepšení celý model.
Jednoduchý příklad neuronové sítě - architektura umělá neuronová síť ANN-kde:
  • Vstupní vrstva - vstupní vrstva.
  • Skrytá vrstva je skrytá vrstva.
  • Výstupní vrstva - Výstupní vrstva.
  • Tento návrh je postaven s použitím vrstvy umělé neurony nebo výpočetních jednotek, které mohou přijímat příchozí data a používají aktivaci s prahem pro určení, zda je zpráva přenášena.
    V jednoduchém modelu první vrstvy - tento vstup, následuje skryté a konečně výstup. Každý z nich může obsahovat jeden nebo více neuronů. Modely může zkomplikovat větší možnosti abstrakce a řešení problémů, na počet skrytých vrstev, počet neuronů přítomných v každé vrstvě a počet stop mezi nimi. Architektura a modelování modelu jsou hlavními součástmi metod ANN kromě samotných učebních algoritmů. Jsou extrémně silný a jsou považovány za černé skříňky algoritmy, což znamená, že jejich vnitřní pracovní velmi těžké pochopit a vysvětlit.

    Hluboké algoritmy učení

    Hluboký learning - koncept zní docela nahlas, ve skutečnosti je termín, který popisuje určité typy neuronových sítí a přidružených algoritmů konzumují syrové vstupních dat přes mnoho vrstev nelineárních transformací pro výpočet cílový výstup Nepřehlédnutelnou vlastností je také oblast, ve které hluboké učení překračuje všechny očekávání. Příklad výuky neuronových sítí - sítí SKIL.
    Tradičně vědec nebo programátor bude atributy odpovídá výkon proces extrakce dat většinu jiných strojového učení přístupy, spolu s výběrem funkcí a designu.

    Optimální parametry algoritmu

    Algoritmylearningové funkce autorizuje stroj, aby se naučil určitý úkol s využitím konečné sady možností pro učení. Jinými slovy se učí studovat. Tento princip je úspěšně používán v mnoha aplikacích a je považován za jednu z pokročilých metod umělé inteligence. Pro řízené, nekontrolovatelné a částečně řízené úkoly se často používají vhodné algoritmy. U modelů založených na neuronové síti je počet vrstev větší než u povrchových tréningových algoritmů. Malé algoritmy jsou méně složité a vyžadují hlubší znalosti o optimálních funkcích, které zahrnují výběr a vývoj. Naopak algoritmy hlubokého učení se spoléhají spíše na optimální volbu modelu a jeho optimalizaci pomocí přizpůsobení. Jsou vhodnější pro řešení problémů, pokud jsou předchozí znalosti funkcí méně žádoucí nebo nezbytné a fixní data nejsou k dispozici nebo nejsou k použití potřebná. Vstupní data jsou přeměněna na všechny vrstvy pomocí umělých neuronů nebo procesorových bloků. Příklad kódu neuronové sítě se nazývá CAP.

    Hodnota CAP

    CAP se používá k měření architektury modelu hlubokého učení. Většina vědců v této oblasti souhlasí, že má pro SPP více než dvě nelineární vrstvy, zatímco někteří věří, že SZP, která má více než deset vrstev, vyžaduje příliš mnoho školení.
    Podrobná diskuse o mnoha různých architekturách modelů a algoritmů tohoto druhu výcviku je velmi prostorová a kontroverzní. Nejvíce studované jsou:
  • Příméneuronové sítě.
  • Relapsující neuronová síť.
  • Vícevrstvý perceptron (MLP).
  • Rolling Neural Networks.
  • Rekurzivní neuronové sítě.
  • Hluboké sítě víry.
  • Válečná síť hlubokých přesvědčení.
  • Samoorganizující mapy.
  • Hluboká auta Boltzmanna.
  • Sestavené auto-kodéry emitující hluk.
  • Nejmodernější architektury

    Perceptrony jsou považovány za neuronové sítě první generace, výpočetní modely jednoho neuronu. Byli vynalezeni v roce 1956 Frankem Rosenblattem v "Perceptron: Předvídatelný model skladování a organizace informací v mozku". Perceptron, nazývaný také síť přímého propojení, přenáší informace zepředu dozadu.
    Opakující se neuronové sítě RNN konvertují vstupní posloupnost na výstup, který je v jiné oblasti, například mění posloupnost zvukových tlaků do posloupnosti identifikátorů slov. John Hopfield uvedl Hopfield Net v článku z roku 1982 "Neural Networks and Physical Systems with Emerging Collective Computing Capabilities". V síti Hopfield (HN) je každý neuron spojen s jiným. Učí se nastavením jejich hodnoty na požadovanou schéma, po které můžeme vypočítat hmotnostní koeficienty.
    ​​Boltzmannův stroj je typ stochastické opakující se neuronové sítě, která může být považována za analogovou pro sítě Hopfielda. Toto byla jedna z prvních variant pro studium interních reprezentací, které řeší složité kombinatorické problémy.Příchozí neurony se stanou na konci úplné aktualizace. Generická konkurenční síť Jan Goodfellow (GAN) se skládá ze dvou sítí. Často se jedná o kombinaci Feed Forwards a Convolutional Neural Networks. Jeden generuje obsah obecně a druhý by měl hodnotit obsah diskriminační.

    SKIL Začínáme s Python

    hluboko neuronová síť příprava podle příkladu Python porovnává vstupy a výstupy z korelace. On je známý jako univerzální approksymator, protože to může naučit přistupovat neznámou funkci f (x) = y mezi jakýmkoli vstupem «x» a jakékoli uvolnění «y», což naznačuje, že se vztah nebo příčinnou BC související 's V učení správný «f», nebo způsob, jak převést «x», «y», ať už f (x) = 3x + 12 nebo f (x) = 9x - 01. Úkolem klasifikaci údajů spojených s neuronových sítí provedla korelaci mezi štítky a daty. Známý kontrolovaný výcvik těchto typů:
  • uznání jednotlivců;
  • Identifikace osob v obrazech;
  • určení výrazu tváře: rozzlobený, radostný;
  • identifikace objektů v obrazu, stopky, chodci, značky pruhy;
  • rozpoznávání gest ve videu;
  • určení hlasu reproduktorů;
  • klasifikace spamového textu.
  • Příklad svertochnoy neuronové sítě

    Svertochnaya neuronová síť jako perceptronových sítě. Hlavní rozdíl spočívá v tom, že CNN studuje, jak je strukturováno a pro jaký účel se používá. Inspirací pro CNN byly biologické procesy. Jejich struktura má vzhled vizuální kůry přítomné u zvířete.Používají se v oblasti počítačového vidění a úspěšných úspěchů moderních úrovní produktivity v různých oblastech výzkumu. Než začnou kódovat CNN, knihovna se používá ke konstrukci modelu, například Keras s backendem Tensorflow. Nejprve proveďte nezbytný import. Knihovna pomáhá budovat konvoluční neuronovou síť. Stáhněte soubor dat mnist přes keras. Importujte sériový model keras, který může přidat vrstvy smyček a slučující, husté vrstvy, jak jsou používány k předvídání popisů. Rozpadová vrstva snižuje opětovné vybavení a vyrovnání transformuje trojrozměrný vektor na jednorozměrný. Nakonec importovat počet pro maticové operace:
  • Y = 2 # hodnota 2 znamená, že obrázek má číslici 2;
  • Y = [0,0,1,0,0,0,0,0,0,0] # Třetí pozice ve vektoru je 1;
  • # Zde je hodnota třídy převedena na matici binárních tříd.
  • Konstrukční algoritmus:
  • Přidejte do sekvenčního modelu přesné vrstvy maximálního fondu.
  • Přidávejte mezi ně vrstvy kapky. Rozbalovací seznam náhodně odpojí některé neurony v síti, což nucuje data najít nové cesty a snižuje opětovné vybavení.
  • Přidejte těsné vrstvy, které se používají k předpovědi třídy (0-9).
  • Zkompilujte model s kategorickou ztrátou křížové entropie, optimalizátorem Adadelta a metrikou přesnosti.
  • Po tréninku vyhodnoťte ztrátu a přesnost modelu podle zkušebních dat a vytiskněte je.
  • Modelování v Matlabu

    Zde je jednoduchý příklad Neutrálních sítí modelování Matlabu. Za předpokladuže model "a" má tři vstupy "a", "b" a "c" a generuje výstup "y".
    Pro účely generování dat: = 5a + bc + 7s. Nejprve napište malý skript pro generování dat:
  • a = Rand (11000);
  • b = pláž (11000);
  • s Rand (11000);
  • n = Rand (11000) * 005;
  • , y = a * b + 5 + 7 * s * y + N,
  • , kde n - hluk je specificky přidán tak, aby vypadal jako reálných dat. Hodnota šumu je 01 a je jednotná. Vstup je tedy sada "a", "b" a "c" a závěr:
  • I = [a; b; c];
  • O = y.
  • Pak použijte vestavěnou funkci matlab newff pro generování modelu.

    Příklady neuronových sítí

    Nejprve se vytvoří matice 3 * R 2. První sloupec ukazuje minimálně tři vstupy, a druhá - maximálně tři vstupy. V tomto případě jsou tři vstupy v rozmezí od 0 do 1 pro: R = [0 1; 0 1; 0 1]. Nyní vytvořte matici velikosti, která má v-velikost všech vrstev: S = . Nyní volá newff následovně: net = newff ([0 1 0 1 0 1], S, { 'tansig', 'purelin'}). Neuronový model {'tansig', 'purelin'} zobrazuje funkci zobrazení dvou vrstev. Učte to s daty, které byly vytvořeny dříve: net = vlak (net, I, O). Síť je vyškolena, můžete vidět křivku produktivity, jak se dozví.
    Teď znovu simulujte na stejných datech a srovnejte zdrojová data: O1 = sim (net, I); graf (1: 1000O, 1: 1000Ol). To znamená, že vstupní matice bude:
  • net.IW {1}
  • -05 402 -036840,0308
  • 046400,234005875
  • 19 569 -168871,5403
  • 111.381,084102439
  • net.LW {21}
  • -10006 -09138 -1.119.909,4589
  • programy umělé inteligence

    Příklady realizace neuronových sítí zahrnují online řešení samoobslužné pro vytvoření aspolehlivé pracovní postupy. Existují modely hlubokého učení používané pro chatové boty, protože se dále vyvíjejí, lze očekávat, že tato oblast bude více využívána širokou škálou podniků. Oblasti použití:
  • Automatický strojový překlad. Není to něco nového, hluboké učení pomáhá zlepšit automatický překlad textu pomocí komplexních sítí a umožňuje převést obraz.
  • Jednoduchý příklad použití neuronových sítí - přidávání barev k černobílým obrazům a videím. To může být automaticky provedeno pomocí modelů hloubkové studie.
  • Stroje zkoumají interpunkci, gramatiku a styl textu a mohou pomocí vytvořeného modelu automaticky vytvořit zcela nový text se správným hláskováním, gramatikou a stylem textu.
  • ANN umělé neuronové sítě a sofistikovanější techniky hlubokého učení jsou některé z nejmodernějších nástrojů pro řešení složitých úkolů. Ačkoli aplikace boomu je v blízké budoucnosti nepravděpodobné, vývoj technologie a aplikací umělé inteligence bude jistě fascinující. Navzdory skutečnosti, že deduktivní uvažování, logické závěry a rozhodování s pomocí počítače dnes nejsou dosud dokonalé, bylo dosaženo značného pokroku při aplikaci metod umělé inteligence a souvisejících algoritmů.

    Související publikace