Sot Äre Kitten wat Dir dobannen denkt - de Black Box Effekt

D'Tatsaach datt fortgeschratt AI Algorithmen wéi eng schwaarz Këscht sinn (1) déi e Resultat ewechgeheien ouni ze verroden wéi et geschitt ass, mécht e puer Suergen a stéiert anerer.

Am 2015 gouf e Fuerschungsteam am Mount Sinai Hospital zu New York gefrot dës Method ze benotzen fir eng extensiv Datebank vu lokalen Patienten ze analyséieren (2). Dës rieseg Sammlung enthält en Ozean vu Patientinformatioun, Testresultater, Dokter Rezepter, a méi.

Wëssenschaftler genannt den analytesche Programm entwéckelt am Laf vun der Aarbecht. Et trainéiert op Daten vu ronn 700 Leit. Mënsch, a wann se an neie Register getest ginn, huet et sech als extrem effektiv bewisen fir Krankheet virauszesoen. Ouni d'Hëllef vu mënschlechen Experten huet hien Mustere a Spidolsrecords entdeckt, déi uginn wéi ee Patient um Wee vun enger Krankheet ass, wéi zum Beispill Liewerkriibs. Laut Experten war d'prognostesch an diagnostesch Effizienz vum System vill méi héich wéi déi vun all aner bekannte Methoden.

2. Medical kënschtlech Intelligenz System baséiert op Patient Datenbanken

Zur selwechter Zäit hunn d'Fuerscher gemierkt datt et op eng mysteriéis Manéier funktionnéiert. Et huet sech zum Beispill erausgestallt datt et ideal ass fir Unerkennung vu mentalen Stéierungenwéi Schizophrenie, déi fir Dokteren extrem schwéier ass. Dëst war iwwerraschend, besonnesch well keen eng Ahnung hat wéi den AI System sou gutt mental Krankheet ka gesinn baséiert nëmmen op de medizinesche Rekorder vum Patient. Jo, d'Spezialisten ware ganz zefridde mat der Hëllef vun esou engem effizienten Maschinnendiagnostiker, awer si wiere vill méi zefridden wa se verstinn wéi d'AI zu senge Conclusiounen kënnt.

Schichten vu kënschtlechen Neuronen

Vun Ufank un, dat heescht aus dem Moment wou d'Konzept vun der kënschtlecher Intelligenz bekannt gouf, goufen et zwee Standpunkter iwwer AI. Déi éischt huet virgeschloen datt et am meeschte raisonnabel wier Maschinnen ze bauen déi am Aklang mat bekannte Prinzipien a mënschlecher Logik verursaachen, wat hir bannenzeg Aarbecht fir jiddereen transparent mécht. Anerer hunn gegleeft datt d'Intelligenz méi einfach géif entstoen wann Maschinnen duerch Observatioun a widderholl Experimenter geléiert ginn.

Dat lescht bedeit typesch Computerprogramméierung ëmgedréint. Amplaz datt de Programméierer Kommandoen schreift fir e Problem ze léisen, generéiert de Programm eegenen Algorithmus baséiert op Proufdaten an dat gewënschte Resultat. Maschinn Léiermethoden, déi spéider zu de mächtegste AI Systemer, déi haut bekannt sinn, evoluéiert hunn, sinn just de Wee erofgaang, tatsächlech, d'Maschinn selwer Programmer.

Dës Approche blouf op de Rand vun der AI Systemfuerschung an de 60er a 70er. Nëmmen am Ufank vun der viregter Dekade, no e puer pionéierende Verännerungen a Verbesserungen, "Deep" neural Netzwierker ugefaang eng radikal Verbesserung vun de Fähegkeeten vun automatiséiert Perceptioun ze weisen. 

Deep Machine Learning huet Computere mat aussergewéinleche Fäegkeeten dotéiert, sou wéi d'Fäegkeet geschwate Wierder bal esou genee wéi e Mënsch ze erkennen. Dëst ass eng ze komplex Fäegkeet fir am Viraus ze programméieren. D'Maschinn muss seng eege "Programm" schafen duerch Training op enorm Datesätz.

Deep Learning huet och Computerbilderkennung geännert an d'Qualitéit vun der Maschinn Iwwersetzung staark verbessert. Haut gëtt et benotzt fir all Zorte vu SchlësselEntscheedungen an der Medizin, Finanzen, Fabrikatioun a méi ze treffen.

Allerdéngs, mat all deem Dir kënnt net nëmmen an engem déif neurale Netzwierk kucken fir ze kucken wéi "bannenzeg" funktionnéiert. Netzbegrënnungsprozesser sinn am Verhalen vun Dausende vu simuléierten Neuronen agebonnen, organiséiert an Dosende oder souguer Honnerte vu komplizéiert matenee verbonne Schichten..

Jiddereng vun den Neuronen an der éischter Schicht kritt en Input, sou wéi d'Intensitéit vun engem Pixel an engem Bild, a mécht dann Berechnunge virum Ausgang vum Output. Si ginn an engem komplexen Netz un d'Neuronen vun der nächster Schicht iwwerdroen - a sou weider, bis zum finalen Ausgangssignal. Zousätzlech gëtt et e Prozess bekannt als Upassung vun de Berechnunge vun eenzelne Neuronen, sou datt d'Trainingsnetz dat gewënschte Resultat produzéiert.

An engem dacks zitéierten Beispill am Zesummenhang mat der Hondsbilderkennung, analyséiere méi niddereg Niveauen vun AI einfach Charakteristiken wéi Form oder Faarf. Déi méi héich këmmeren sech mat méi komplexe Themen wéi Pelz oder Aen. Nëmmen déi iewescht Schicht bréngt et alles zesummen, identifizéiert de ganze Set vun Informatioun als Hond.

Déi selwecht Approche kann op aner Aarte vun Input applizéiert ginn, déi d'Maschinn d'Kraaft fir sech selwer ze léieren: Kläng déi Wierder a Ried ausmaachen, Buschtawen a Wierder, déi Sätz am schrëftlechen Text ausmaachen, oder e Lenkrad, zum Beispill. Beweegunge néideg fir e Gefier ze fueren.

Den Auto spréngt näischt iwwer.

Et gëtt probéiert ze erklären wat genee an esou Systemer geschitt. Am Joer 2015 hunn d'Fuerscher bei Google en Deep Learning Bilderkennungsalgorithmus geännert sou datt amplaz Objekter a Fotoen ze gesinn, se generéiert oder geännert hunn. Andeems se den Algorithmus no hanne lafen, wollte si d'Charakteristiken entdecken, déi de Programm benotzt fir z.B. e Vugel oder e Gebai z'erkennen.

Dës Experimenter, ëffentlech als den Titel bekannt, hunn erstaunlech Biller vu (3) groteske, bizarre Déieren, Landschaften a Personnagen produzéiert. Andeems se e puer vun de Geheimnisser vun der Maschinn Perceptioun opdecken, sou wéi d'Tatsaach datt verschidde Mustere ëmmer erëm zréck a widderholl ginn, hunn se och gewisen wéi déif Maschinnléiere sech vun der mënschlecher Perceptioun ënnerscheet - zum Beispill am Sënn datt et Artefakte erweidert an duplizéiert déi mir ignoréieren an eisem Prozess vun der Perceptioun ouni ze denken. .

3. Bild am Projet geschaf

Iwwrégens, op der anerer Säit hunn dës Experimenter d'Geheimnis vun eisen eegene kognitiven Mechanismen opgedeckt. Vläicht ass et an eiser Perceptioun datt et verschidde onverständlech Komponenten sinn, déi eis direkt eppes verstoen an ignoréieren, während d'Maschinn geduldig seng Iteratiounen op "onwichteg" Objete widderhëlt.

Aner Tester an Studien goufen duerchgefouert an engem Versuch d'Maschinn "verstoen". Jason Yosinski hien huet en Tool erstallt, deen wierkt wéi eng Sonde, déi am Gehir stécht, zielt op all kënschtlech Neuron a sicht no dem Bild, deen et am staarksten aktivéiert. Am leschte Experiment erschéngen abstrakte Biller als Resultat vum "Peeping" vum Netz rout, wat d'Prozesser, déi am System stattfannen, nach méi mysteriéis gemaach hunn.

Wéi och ëmmer, fir vill Wëssenschaftler ass sou eng Etude e Mëssverständnis, well hir Meenung, fir de System ze verstoen, d'Musteren a Mechanismen vun enger méi héijer Uerdnung ze erkennen fir komplex Entscheedungen ze huelen, all computational Interaktiounen bannent engem déif neural Netzwierk. Et ass e risege Labyrinth vu mathematesche Funktiounen a Variabelen. Am Moment ass et fir eis onverständlech.

Computer wäert net starten? Firwat?

Firwat ass et wichteg d'Entscheedungsmechanismen vu fortgeschrattenen kënschtlechen Intelligenz Systemer ze verstoen? Mathematesch Modeller gi scho benotzt fir erauszefannen, wéi eng Prisonéier op Parole fräigelooss ginn, wien e Prêt kritt a wien eng Aarbecht kritt. Déi, déi interesséiert sinn, wëlle wëssen, firwat dës an net eng aner Decisioun geholl gouf, wat hir Grënn a Mechanismus sinn.

hien zouginn am Abrëll 2017 am MIT Technology Review. Tommy Yaakkola, e MIT Professer deen un Uwendungen fir Maschinnléiere schafft. -.

Et gëtt souguer eng legal a politesch Positioun datt d'Fäegkeet den Entscheedungsmechanismus vun AI Systemer ze iwwerpréiwen an ze verstoen e fundamentalt Mënscherechter ass.

Zënter 2018 schafft d'EU un d'Betriber ze erfuerderen hir Clienten Erklärungen ze ginn iwwer Entscheedunge vun automatiséierte Systemer. Et stellt sech eraus datt dëst heiansdo net méiglech ass och mat Systemer déi relativ einfach schéngen, wéi Apps a Websäiten déi déif Wëssenschaft benotze fir Reklammen ze weisen oder Lidder ze recommandéieren.

D'Computeren, déi dës Servicer lafen, programméiere sech selwer, a si maachen et op Weeër déi mir net verstinn ... Och d'Ingenieuren, déi dës Applikatiounen erstellen, kënnen net ganz erkläre wéi et funktionnéiert.