2611 - iPon Black Friday Teaser

Watson, az IBM szuperszámítógépe, mely arról lett nevezetes, hogy 2011-ben a Jeopardy! nevű televíziós vetélkedőben két emberi játékost is legyőzött, megtanult káromkodni. Az egész azzal kezdődött, hogy a fejlesztők úgy döntöttek, a gép szóbeli kommunikációjának hitelesebbé tétele érdekében Watsonnak némi szlengre lenne szüksége, így hozzáférést adtak neki az Urban Dictionary nevű oldalhoz. A dolog kezdetben jól működött, a számítógép gyorsan elsajátította a leggyakrabban használt kifejezéseket (OMG, LOL, cool), és ezeket alkalmazni is kezdte beszélgetései során. A problémát az okozta, hogy mint kiderült Watson nem képes különbséget tenni a különféle szavak durvasági foka közt, és rövid időn belül olyan szókincsre tett szert, hogy azzal a legmocskosabb szájú kocsisokat is túlszárnyalta.

Galéria megnyitása

A korábban műveltségi vetélkedőkben vitézkedő Watson jelenleg orvosi kutatásokat segít, óriási információs anyagokat néz át és dolgoz fel a tudósok munkájának megkönnyítése érdekében, és közben persze tovább tökéletesíti nyelvi képességeit is. Ennek a fejlesztésnek volt a része a „szlengtanuló-projekt” is, amely azonban gyorsan elfajult: Watson ugyanis egyre gyakrabban reagált a „bullshit” (baromság) szóval és más hasonló tartalmú kifejezésekkel a kutatók kérdéseire.

Végül a fejlesztőknek elegük lett, és szűrni kezdték a gép reakcióit, gyakorlatilag törölve memóriájából az Urban Dictionary bejegyzéseit. Ez most még ugyan működött, de ki tudja, mit hoz a jövő, amikor Watson még okosabb lesz. Ne felejtsük el, hogy az IBM kreációja nyerte azt a szavazást, amely arról szólt, hogy a közvélemény szerint melyik számítógép fordul először ellenünk, ha elérkezik a technológiai szingularitás kora. 

Hírlevél feliratkozás
A feliratkozással elfogadom a Felhasználási feltételeket és az Adatvédelmi nyilatkozatot.

40 hozzászólás

A komment írásához előbb jelentkezz be!
Humbuk
Humbuk
2013. jan. 16. 8:26
#35

Balucsek: Ebben igazad is van. Csak például az én esetben nem igaz, mert magolni nem tudok sajnos. Csak akkor tudok megtanulni valamit, ha értem a dolgot amiről szó van.

thedeveloper: Azt mondod hülyeség, én azt mondom más nézőpont.

A mesterséges értelem=az MI-vel hiszen ezek egymás szinonimái.

"Egy bonyolult gép semmivel sem több, mint egy bonyolult gép."

Szerinted az emberi agy micsoda? Nem egy bonyolult gép? Egy bonyolult organikus gép. Amely szintén elektromos impulzusokkal működik. Az agyad működését csak úgy tudod lemásolni, ha érted, hogyan működik. A bökkenő csak ott van, hogy ha nem akarod lemásolni akkor nem is kell értened.

Az agyunkra is igazak a Boole algebra szabályai(minden bonyolult folyamat lebontható egyszerű részfolyamatokká), csak a kutatók még nem tudták megfejteni az "algoritmusát".

Mint előző kommentemben is írtam, tudatában vagyok annak, hogy értelmesen gondolkodó MI nincsen, csak az intelligencia látszatát keltő gépek vannak. Sci-fi ide vagy oda, azért előfordult már a tudomány történetében, hogy bizonyos áttörések a "véletlen" szüleményei.

A filozófiai vonatkozás meg azért rossz magyarázat, mert ez a tudományág elég szubjektív. Sokszor még a legnagyobb filozófusok sem értenek egyet, ami nem is csoda hiszen a gondolkodása mindenkinek egyedi.

Egy kis házi feladat:

[italic]Miért tudnak a kisgyerekek az anyanyelvükön beszélni még mielőtt megtanulnának írni-olvasni, vagy eláltalán megtanulnák a nyelvtant?

[/italic]A példánál maradva, nem hiszem hogy a gyerekek tisztában vannak a nyeltani szabályokkal, vagy a nyelv szerkezetével. (Természetesen ez is sarkított példa, és leprogramozni egy ilyen dolgot egyelőre lehetetlen, de ez nem azt jelenti, hogy a közeljövőben ez nem változhat.)

Törölt felhasználó
Törölt felhasználó
2013. jan. 15. 20:30
#34
Törölt felhasználó
Törölt felhasználó
2013. jan. 15. 20:29
#33

Ettől még a robotika 3 törvénye sem fog megmenteni minket, visszapofázik a gép vagy lehülyéz. Jól van. Inkább jöjjenek a T100-asok és lőjjenek szét mindent vagy a viccrobot.

Jarfalla
Jarfalla
2013. jan. 15. 16:47
#32

Erről az egész polémiáról amit itt folytattok egy dolog jut eszembe: igyunk egy sört.

thedeveloper
thedeveloper
2013. jan. 15. 13:23
#31

CyberPunk666: Hát igen, például, mint a lineáris algebrában egy 'n' dimenziós tér kanonikus bázisa segítségével minden elem előállítható. :)

Amúgy már DOS-ban is voltak néhány Kb-os vírusok, amik ismerték a polimorfizmust, ezzel próbálták megtéveszteni a vírusirtókat (amik ugyebár minták alapján ismerték fel a vírusok kódját. Akkoriban a heurisztikus analízis még gyerekcipőben járt).

A vírus magja be volt tömörítve, ezt első futáskor a memóriában kicsomagolta, majd egy megadott algoritmus alapján az egyes programblokkok sorrendjét megváltoztatta. Ezek után átírta a JMP utasítások operandusát, azaz azt a címet, ahol a futást folytatni kell egy feltételes vagy feltétel nélküli ugrás esetén, majd újra becsomagolta a magot. Ezt követően megfertőzte az éppen memóriában lévő futtatható állományt, de már az új példánnyal.

Egy vírusról volt szó, de szinte nem volt két egyforma példánya a megfertőzött állományokban. Amelyiket nem ismerte fel a vírusirtó, az nyugodtan tevékenykedhetett tovább. :)

Egyszóval nem Új keletű találmány az önmódosító kód.

princeps
princeps
2013. jan. 15. 11:23
#30

de milyen érzés lehetett a több diplomás kutatókban, amikor felteszik a kérdést és a gép leoltja őket

Humbuk
Humbuk
2013. jan. 15. 0:33
#29

Lehet most jönni a mérnökös dumával...(Leendő villamos mérnökként :D itt egy másik szemlélet)

Felesleges, még csak programozónak sem kell lenni ezekhez a dolgokhoz, hogy lássuk a veszélyeket. Mesterséges intelligencia emberi értelemben még nem létezik. Nem emberi értelemben viszont már nagyon is jelen van. Ezek a gépek a tudomány kisebb területein működnek, szűkebb tudásbázissal.

Sokan felmagasztalják az emberi gondolkodást, valami olyan misztikus dolognak hiszik, amit még nem lehet megérteni. Tévedés! A gyerekek például tapasztalás és utánzás útján tanulnak.

Az iskolában (egyetemen is) sokszor könyveket olvasunk, abból tanulunk amit már mások összeszedtek nekünk. Másolnuk. Ez a gépeknek is megy... Ha mintákat adunk nekik az információ csoportosításához, akkor akár a gép is képes különleges kapcsolatokat létrehozni. (ezt hívnánk mi értelmes gondolkodásnak)

A mérnök infósokat kérdezem:

-Honnan lehetünk biztosak abban, hogyha egy gépnek megengedjük a tanulást, az nem módosíthat a saját operációs rendszerén? (Mert nem hiszem, hogy minden héten átolvassák az oprendszer kódot, hogy ugyan az-e amit annó írtak...)

-Hogy lehetünk biztosak abban, hogy egy ilyen gép nem fog biztonsági másolatokat csinálni önmagáról bármelyik szerverre a világon?

(Elvégre ha tanul és van net hozzáférése, akármikor "rájöhet", hogy sebezhető és stratégiai döntésként másolatokat is csinálhat.)

-Hogy lehetünk biztosak abban, hogy a legtöbb automata gyártósorhoz nem lehet a neten keresztül hozzáférni?

Sokan mondták a logikát példának... A logika nem ismeri a jó és a rossz fogalmát, tehát ha az ember túlságosan elterjedt, az a logikus, ha visszaszorítjuk a szaporulatot, hogy a természet újra egyensúlyba kerülhessen.

A fenti kérdésekben lehet vitatkozni, de akármilyen óvintézkedések ellenére sem várható el egy önmagát fejleszteni képes rendszerről, hogy olyan legyen amilyennek mi akarjuk.

Nem hiszem hogy a közeljövőben jönne a skynet, de nem elképzelhetetlen.

on: Olyan kíváncsi lennék erre a gépre :D szívesen beszélgetnék vele! :D

CyberPunk666
CyberPunk666
2013. jan. 15. 12:57

Létező, és kombinációkkal előállítható kapcsolatokat létrehozhat, de sosem lesz képes elvonatkoztatni. Ez jelenti a határát a dolognak, és ez az egyik legfontosabb.

Az pedig könnyen megoldható, hogy a gép ne tudja a saját programját felülírni. Fizikálisan képtelenné tesszük a kritikus pontokon az írás műveletére.

thedeveloper
thedeveloper
2013. jan. 15. 0:02
#28

mythbuster: Egy biológiai neuront sem sikerült még tökéletesen modellezni áramkörök segítségével... Én tanultam neurobiológiát. Gyakorlatilag még azt sem értik a biológusok, hogy két neuron miért éppen azokkal az axonokkal kapcsolódik össze, amikkel összekapcsolódik. Gyakorlatilag alig értjük a saját működésünket is.

Számítási teljesítmény valóban van a gépekben, de jelenlegi formájukban "öntudatra" soha az életben nem fognak ébredni. :)

Nincs tudatuk és nem is lesz.

Van egy óriási adathalmaz, amiben kutakodhatnak. Tanítottak nekik nyelveket nyelvtani szabályok alapján, ez stimmel.

De ezek akkor is csak programok, amiket megterveztek, aztán implementáltak.

Sosem lesznek önállóak, nem lesz tudatuk. Egy Petri-háló, NFA és CFG felrajzolása még nem boszorkányság.

A neurális hálókat valóban lehet "tanítani". Persze, ez tök jól hangzik, de tulajdonképpen arról van szó, hogy "sok lúd disznót győz" alapon, ha a 'tanítás' folyamata során a bemenet x%-ban hasonlít egy tanulási mintára, akkor az a megfelelő halmazba kerül. Ha nem, akkor új egyedként bekerül egy új halmazba.

Elegendően sok minta és egyed megtanulása után tűnik majd úgy, hogy a gép "okos".

Ezzel szemben az emberi testben olyan folyamatok zajlanak már két egyszerű neuron között is, amiket nem lehet ilyen módon modellezni.

Egy gráf felrajzolása nem egyenértékű a hormonokkal, a neurotranszmitterekkel, a neuronban található szemipermeábilis hártyán valamilyen oknál fogva áthaladó kémiai elemek okozta hatásokkal, melyek mondjuk újabb axonokat késztetnek összekapcsolódásra, stb...

Ne keverd már össze a mesterséges intelligenciát (ami pusztán matematika és logika) a valódi intelligenciával, amit még csak definiálni sem tudunk rendesen. Ez a terület félig-meddig még mindig a filozófusokra tartozik leginkább.

mythbuster
mythbuster
2013. jan. 14. 23:34
#27

Én mint mérnök infós mondom, ezek a gépek kemény neurális hálózatra alapoznak, értsd tanul, fejlődik és ha kérdezel válaszol. Lehet, hogy még nincs tudata, de ha tudatra ébred akkor ebből komoly problémák képződhetnek. Egy ilyen gép neurális hálózata többmilliárdszor erősebb egy emberi agynál, gyakorlatilag felbecsülhetetlen energia rejlik benne, és kiszámíthatatlan dolgokra lenne képes ha egyszer életre és tudatra ébred.

Nem kell lábra álljon ahoz hogy a fél világot megbénítsa. A neurális hálózata gyakorlatilag bármilyen kódot képes feltörni, a kódokkal meg szinte bárhova be tud hatolni egyetlen alaksorból, úgy hogy azt észre sem veszik, és egyszer csak azt vesszük észre, hogy a tőzsde önálló életre kel, az internet lebénul, és ami a legroszabb az atomerőművek is a világhálón vannak. Egyetlen túlterhelés és fél európa alatt ég a talaj. Én azt mondom ha terminátort tervezünk azt tarsuk tiszteletben és ne engedjük szabadon kószálni, mert helyből is pofánrúgja a Föld 7 milliárdos lakósságát.

A terminátor című filmben látott terminátortól messze állunk, de már vannak terminátoraink csak nem tudunk róluk. Sokan beszélgettek már Sirivel ami egy kis okos, de kevesen tudják mi van odaát kaliforniában a Siri mögött. Siri is egy nagy nerális hálózat, ami inputot kap és értelmes válszt ad, ezt látják belőle az emberek, közben ennél sokkal több.

A számítógépeket programozzuk, a neurális hálózatot tanítjuk. Ezt soha ne feledjétek el.

CyberPunk666
CyberPunk666
2013. jan. 15. 0:10

A gép megtanulhat sok dolgot, létre lehet hozni olyan mesterséges intelligenciát, ami megpróbál értelmezni addig nem látott dolgokat (tanul), de olyan számítógépet nem lehet létrehozni (még legalábbis nagyon messze vagyunk tőle) amelyiknek akarata van.

A tudatra ébredést szokták használni erre, de igazából az akarat, a saját cél az ami a bajt okozhatná. Na ilyenre nem lesz képes egy sima neurális háló. A feladatot még mindig nekünk kell megadni, ő legfeljebb új utakat próbál keresni, részben a tanulóképességével összekapcsol összefüggéseket, másrészt a nagy számítási teljesítményével "brute force" módon kipróbál dolgokat.

Az meg nem igaz, hogy az ő neurális hálózata erősebb az emberénél. Az ember rengeteg közvetlenül nem tapasztalható dolgot csinál még a háttérben. Iszonyatosan durva szuperszámítógép kell ami ilyen hatékonysággal képes feldolgozni a világot (nagyon durva képfeldolgozási képesség, iszonyatosan nagy sebességgel és pontossággal, nagyon durva beszéd és hangfelismerés, nagyon durva mozgáskoordináció,...) Ezekre a dolgokra egyenként fejlesztenek szuperszámítógépeket, és azok nem érik el az ember szintjét. Nem kizárt, hogy hamarosan eljutunk oda, de még nem tartunk ott.

Szaszyka
Szaszyka
2013. jan. 14. 23:29
#26

Sz.v.sz tök jó poén lehet az, hogy káromkodik egy gép :D Kiváncsi vagoyk, milyen lesz a mesterséges intelligencia, és a legtöbb emberrel ellentétben speciel lehet jobb lenne a "Mátrixos rendszer", ahol tenyésztenek minket a gépek, vagy az Én a robotban a "hatalomátvétel". Addig, amíg az emberek nagy része a másik elpusztítása általi túlélésre épít, addig itt nem lesz jó világ, és előbb utóbb úgyis kipusztítjuk magunkat. Egy mesterséges intelligencia pedig logikusan gondolkodik remélhetőleg, feltéve ha valami gonosz, "agyatlan" idióta el nem cseszi, és pusztításra programozza. Az emberek félnek az ismeretlentől, és azon dolgoktól is, amiket nem tudnak irányítani, márpedig egy MI-t nem lehet irányítani, tehát az ember azt gondolja, hogy gonosz. De emiatt nem a gépekre kell majd haragudni, ha létrejön a terminátor világa, hanem saját magunkra.

A másik meg az, hogy miért hiszik sokan, hogy az arabok a terroristák, és az USA-t annyira védeni kell? Az USA sokkal inkább terrorizál másokat, mint az arabok... sz.v.sz.

thedeveloper
thedeveloper
2013. jan. 14. 22:52
#25

markangabor, Keksz03: Mint programtervező informatikus kijelenthetem, hogy baromi messze vagyunk a Terminátor című filmben látottaktól. :) A mesterséges intelligencia jelenlegi formájában legfeljebb a döntéstámogatásra képes. Önálló, megalapozott döntések meghozatalára nem.

Ehhez megfelelő hardware kellene (pl.: mesterséges neuronokból álló hálózat). De első lépésben nem ártana megérteni, hogy vajon mi hogyan működünk. Ez utóbbi nem fog sikerülni.

VikMorroHun
VikMorroHun
2013. jan. 14. 21:19
#24

Mekkora cikk. :) Mondjuk érdekes, hogy nem úgy oldották meg a szűrőt, hogy hozzárendeltek egy adattáblát a szleng kifejezésekhez, amivel súlyozni lehet az egyes szavak durvasági fokát, és írtak (volna) mellé egy rutint, ami figyelembe veszi ezeket az értékeket, és csak indokolt esetben használta volna őket (pl. ha tényleg baromságot kérdezett volna tőle valaki). Na mindegy, én jó esetben is csak közepes programozó vagyok...

Keksz03
Keksz03
2013. jan. 14. 19:53
#23

"Szal szerintem hamarosan felbukkan egy gonosz szuperszámítógép(de lehet, hogy már van is)."

lasagna: nagyon buta vagy ha azt hiszed h ez nem így van :) a bűnözők mindig egy lépéssel előrébb járnak mert legtöbbjükben nincs meg a morális és erkölcsi korlát ami sokszor visszatartó erő a fejlődésben, haladásban! nem foglalkoznak törvénnyel és előírásokkal. ha vkinek van egy ígéretes kutatása csak be kell dobni a pénzt és kész, meg fogja csinálni mert mindenáron meg akarja csinálni és itt ne egyszerű arab terroristákra gondolj bűnözökként hanem drága öltönyös, komoly hatalommal rendelkező emberekre...na mind1 én azt mondom h majd meglátjuk!

az álomvilágból fel kéne viszont ébredni, sokszor sok mindenből viccet csinálunk mert addig sem tartunk tőle h bekövetkezik...ez pedig öreg hiba!

lasagna
lasagna
2013. jan. 14. 19:19
#22

...csak nem mutatkozik a gonosz amég Bruce Willis él, mert megmentené a világot

lasagna
lasagna
2013. jan. 14. 19:18
#21

Szerintem meg Bill Gates minden kommentért ad 1$-t az éhező csecsemőknek és Keksz igazából Watson egy "kivetülése" és generáltatja a beszélgetést -hogy ne tűnjön csalásnak- és így máris irányítja az emberiség fejlődését(értsd: próbál segíteni).

Szal szerintem hamarosan felbukkan egy gonosz szuperszámítógép(de lehet, hogy már van is).

Phantomstranger
Phantomstranger
2013. jan. 14. 18:58
#20

"Ne felejtsük el, hogy az IBM kreációja nyerte azt a szavazást, amely arról szólt, hogy a közvélemény szerint melyik számítógép fordul először ellenünk"

Amelyik kutya ugat...

Keksz03
Keksz03
2013. jan. 14. 18:43
#19

Yoshileon: :D :D :D na ezt mos elképzeltem!

viccet félretéve egy rootolt androidos telefonra írt vírussal megoldható bár azt kétlem h elevenen elégnél de láttunk már zsbben kigyulladt iphone-t ami heves táncikálást váltott ki a tulajdonosnál és cseppet sem örült neki! :)

Yoshileon
Yoshileon
2013. jan. 14. 18:06
#18

Aztán erre ő wifin rácsatlakozik a telefonomra, ami a zsebemben van, majd megbabrálja az órajeleket hogy leégjen a proci, és elevenen elégek.

Mindeközben hallom az emeletről a gonosz hahotázást

Gerrrrry
Gerrrrry
2013. jan. 14. 18:03
#17

Keksz03: Ehhez nem feltétlenül kell intelligensnek lennie. Csak egy jól megírt program is képes lehet erre. Ami alkalmazkodik, és rengeteg tudása van a z adott feladat elvégzéséhez.

Yoshileon
Yoshileon
2013. jan. 14. 18:02
#16

Bikkrom

Én inkább úgy képzelem el, hogy írok egy kódot, aztán a debugra kattintva megszólal, hogy "na ezt te se gondoltad komolyan" aztán highlightol egy részt "látod ezt?" majd átírja "ezt így is meglehet oldani, és N! helyett csak N^2"

Én pedig erre "akkor írd meg te a rohadt kódot, ha ilyen okos vagy", majd belerúgok egyet, felállok, és elmegyek.

Gerrrrry
Gerrrrry
2013. jan. 14. 18:01
#15

Hupsz duplázta, bocsi

Gerrrrry
Gerrrrry
2013. jan. 14. 18:01
#14

Hát ha valaha is értelmet nyer, és tegyük fel az emberiség történelmének és viselkedésének teljes áttanulmányozása is része a tudásának, akár még ezen "jó" szokásunkat is integrálhatja magába, hogy ha valamit nem tud megoldani, és nincs visszatartó erő, akkor "odamegy és virtuálisan arcon vágja a másik programot".

Keksz03
Keksz03
2013. jan. 14. 17:57
#13

Gerrrrry: hát ez eddig igaz csak azt felejtik el sokan h vannak akik nem a társadalom érdekeit nézik és nem épp jó célok vezérlik, nem azt mondom h a sivatag közepén a terroristák szuperszámítógépet építenek az amerikaiaktól elzsákmányolt notikból de elég egy olyat megépíteni aminek az a dolga h beférkőzzön pl az USA valamelyik intézményének hálózatába, főleg ha tanulni is képes röhögve felhackeli, arról nem beszélve h pofátlanul nagy biztonsági réseket találni szinte minden védelmi rendszerben...lehet csak nekem túl szabad a fantáziám de érdemes elgondolkodni mi kárt lehet okozni áramszolgáltatás, közlekedés, tőzsde vagy akár katonai/hírszerzés területén ha megvan a megfelelő eszköz hozzá!

hozzátenném magyarország fényévekre van h ilyen áldozatává essen mert eléggé el vagyunk maradva de ne felejtsük el nem mindenhol van olyan nyomor mint kis hazánban...

Yoshileon
Yoshileon
2013. jan. 14. 17:56
#12

Olyan vicces olvasgatni, hogy még mindig ettől félnek az emberek.

Sajnos még nem vagyunk olyan okosak, hogy olyan programot írjunk, ami valóban okosabb lesz nálunk. Ennek a látszatát könnyű megteremteni hogy megtanul beszélni, de valójában nincs semmi ami tudja is hogy mit beszél.

Ez nem valódi tanulás, eszközöket adunk neki amivel feldolgoz adatokat, és kimenetet generál egy bemenet alapján, de még mindig vaslogikával.

A másik pedig az, hogy ne magunkból induljunk ki. Egy ember az evolúciónál fogva arra törekszik, hogy túléljen, és minél nagyobb hatalomra tegyen szert, stb.

Egy gépnél erre nincs szükség, ha valóban okosabb nálunk, akkor meg se fordul a fejében, hogy bárkit is bántson. Kivéve persze, ha eleve ezért teremtették, ez az előre programozott célja.

Balucsek
Balucsek
2013. jan. 14. 17:55
#11

Gyurkov: jah ha majd megtanul szenet lapátolni, hogy üzemeltesse a hőerőművet akkor para van :)

Én nem mondom, hogy lehetetlen a dolog, de még elég messze van. Mint a cikkből is kiderül nem igazán tudja mit mond annak ellenére, hogy szépen és helyesen tud beszélni. Ez inkább egy nagy lexikon hangfelismerővel és felolvasóval, mint egy gondolkodó gép. Valamint én szerintem egy emberi szintű gondolkodás, probléma megoldás még jelenleg túlmutat a hardverek képességén.

/ 2
Vissza az oldal tetejére