Illusztráció illusztrálja: M. Jое

Az algoritmusok megmondják, hogyan kell gondolkodni, és ez megváltoztat minket

Amint a számítógépek megtanulják, hogyan utánozzanak minket, inkább hasonlók leszünk rájuk?

A Szilícium-völgy egyre inkább megjósolja, hogyan reagálunk egy e-mailen, reagálunk valaki Instagram-képére, meghatározzuk, hogy mely kormányzati szolgáltatásokra jogosultak vagyunk, és hamarosan egy jövőbeni Google Asszisztens képes lesz felhívni minket a fodrászunkra - idő.

Az algoritmusokat gyakorlatilag mindenhol meghívtuk, a kórházaktól és az iskoláktól a bíróságokig. Autonóm automatizálás vesz körül minket. A kódvonalak megmondhatják, mit kell figyelnünk, kit a mai napig, sőt még az igazságszolgáltatási rendszert is kell börtönbe küldeni.

Hibát követünk el azáltal, hogy annyi döntéshozatali jogkört és ellenőrzést ruházunk át a kódsorokra?

A matematikai eljárások megszállottak vagyunk, mert ezek gyors, pontos választ adnak nekünk számos összetett problémára. A gépi tanulási rendszereket a modern társadalom szinte minden területén bevezették.

Ugyanakkor az a kérdés, amit magunknak kell kérdezni, hibázunk-e, ha annyi döntéshozatali jogkört és ellenőrzést ruházunk át a kódsorokra? És hogy az algoritmusok hogyan befolyásolják életünket?

Az állandóan változó világban a gépek nagy munkát végeznek annak megtanulásakor, hogyan viselkednek az emberek, mi szereti és utáljuk, és mi a legmegfelelőbb gyors ütemben. Jelenleg a prediktív technológia kamrájában élünk - Ó, hé, ott automatikus kiegészítés!

Az algoritmusok drasztikusan átalakították életünket azáltal, hogy a nagyságra vonatkozó adatokat szétválogatták, és releváns, azonnali eredményeket adtak nekünk. Nagy mennyiségű adatgyűjtéssel az évek során felhatalmazottuk a cégeket arra, hogy eldöntsék, mi a legmegfelelőbb nekünk.

Az olyan cégek, mint az Alphabet vagy az Amazon, az összegyűjtött adatokkal táplálják algoritmusaikat, és arra utasítják az AI-t, hogy használja az összegyűjtött információkat az igényeinkhez való alkalmazkodáshoz és jobban hasonlítson hozzánk. Mégis, amikor megszokjuk ezeket a praktikus funkciókat, beszélünk és viselkedünk inkább, mint egy számítógép?

„Az algoritmusok természetéből adódóan nem valók, mivel a modellt készítő személy határozza meg a sikert.” - Cathy O’Neil, adattudós

Ennél a technológiai sebességnél lehetetlen elképzelni a közeljövőt, ahol viselkedésünket algoritmusok irányítják vagy diktálják. Valójában ez már megtörténik.

Az üzenetek vagy gyors válaszok megírásának elősegítésére a Google tavaly októberben bevezette a Gmailen a Smart Replies nevű legújabb funkcióját. Mivel az internet viharfelvételével sokan kritizálták az asszisztenst, mondván, hogy annak testreszabott javaslatai invazív jellegűek. Az emberek géppé válnak, és néhányuk azzal érvelve is, hogy a válaszai végül befolyásolhatják a kommunikációt, vagy esetleg megváltoztathatják az e-mail címkét.

Az algoritmusok fő kérdése az, amikor olyan nagyokká és összetettebbé válnak, hogy negatív hatással vannak a jelenlegi társadalomra, veszélybe sodorva a demokráciát - Szia Mark Zuckerberg, vagy az állampolgárokat orwelli intézkedésekbe helyezve, például Kína példátlan eszközöket alkalmazva osztályozva az emberek hitelképességét viselkedésük disztopóniás megfigyelő programmal.

Mivel a gépi tanulási rendszerek egyre áthatóbbá válnak a társadalom számos területén. Az algoritmusok futtatják-e a világot, és átveszik a gondolatainkat?

Most nézzük meg a Facebook megközelítését. 2015-ben bevezették a Hírcsatorna újabb verzióját, amelyet arra ösztönöznek, hogy a felhasználók adatait egy személyre szabott újságba gyűjtsék és fokozzák, lehetővé téve számukra a korábban kedveltek, megosztott és kommentált tartalmak folytatását.

A „személyre szabott” algoritmusok problémája az, hogy ezek szűrőbuborékokba vagy visszhangkamrákba tehetik a felhasználókat. A való életben a legtöbb ember sokkal kevésbé valószínű, hogy olyan szempontokkal foglalkozik, amelyeket zavarónak, bosszantónak, helytelennek vagy utálatosnak találnak. A Facebook algoritmusai azt adják meg a felhasználóknak, amit akarnak, ennek eredményeként minden egyes személy hírcsatornája egyedülálló világgá válik. Megkülönböztető valóság önmagában.

A szűrőbuborékok egyre nehezebbé teszik a nyilvános érvek megfogalmazását, mivel a rendszer szempontjából az információk és a dezinformáció pontosan azonosak. Mint Roger McNamee a közelmúltban írta a Time magazinban: „A Facebookon a tények nem abszolút; választásuk, amelyet kezdetben a felhasználóknak és a barátaiknak hagynak, majd az algoritmusok nagyítják meg, hogy elősegítsék az elkötelezettséget. ”

A szűrőbuborékok illúziót hoznak létre, miszerint mindenki ugyanazokat a dolgokat hiszi, mint mi, vagy ugyanazok a szokásaik. Mint már tudjuk, a Facebook-on az algoritmusok súlyosbították a problémát azáltal, hogy növelték a polarizációt és végül károsítják a demokráciát. Olyan bizonyítékokkal, amelyek azt mutatják, hogy az algoritmusok befolyásolhatták a brit népszavazást vagy a 2016. évi választásokat az Egyesült Államokban.

„A Facebook algoritmusai a szélsőséges üzeneteket népszerűsítik a semlegesekkel szemben, amelyek emelik az információk feletti dezinformációt, az összeesküvés-elméletek a tények helyett.” - Roger McNamee, a Silicon Valley Investor

A jelenlegi világban, amely folyamatosan tele van fenyegető információhalmokkal, az ezen keresztül szitálás óriási kihívást jelent egyes emberek számára. Az intelligens felhasználás - okosan felhasználva - javíthatja valaki online tapasztalatait, vagy segíthet gyorsan kezelni az egyre növekvő tartalomterhelést. Annak érdekében azonban, hogy megfelelően működjön, az algoritmusok pontos adatokat igényelnek a való világban zajló eseményekről.

A vállalatoknak és a kormányoknak gondoskodniuk kell arról, hogy az algoritmusok adatai ne legyenek elfogultak vagy pontatlanok. Mivel a természetben semmi sem tökéletes, a természetesen elfogult adatok várhatóan már sok algoritmusban megtalálhatók, és ez nemcsak az online világunkat veszélyezteti, hanem a fizikai, az igazi is.

Fontos, hogy támogassuk a szigorúbb szabályozási keretek megvalósítását, tehát nem érjük el a technológiai vadnyugatot.

Különösen óvatosnak kell lennünk az algoritmusok megadása terén. Fokozódnak a félelmek az átláthatósági problémákkal kapcsolatos algoritmusok, az általuk hozott döntések és folyamatok etikai következményei, valamint az embereket érintő társadalmi következmények miatt.

Például a bírósági termekben alkalmazott AI fokozhatja az elfogultságot, megkülönböztetheti a kisebbségeket azáltal, hogy figyelembe veszi a „kockázati” tényezőket, mint például szomszédságuk és a bűnözéshez fűződő kapcsolatok. Ezek az algoritmusok szisztematikusan hibákat okozhatnak, és ártatlan, valódi embereket küldhetnek börtönbe.

"Fennáll annak a veszélye, hogy elveszítjük emberiségünket?"

Biztonsági szakértőként Bruce Schneier a Click Here to kill Everybody című könyvében írta: "Ha hagyjuk, hogy a számítógépek nekünk gondolkodjanak, és az alapul szolgáló bemeneti adatok sérültek, akkor rosszul fognak gondolkodni, és valószínűleg soha nem fogjuk tudni."

Hannah Fry, a University College London matematikusa olyan világon vezet bennünket, ahol a számítógépek szabadon működnek. Nemrégiben megjelenő Hello World: Legyen ember az algoritmusok korában című könyvében azt állítja, hogy polgárokként nagyobb figyelmet kell szentelnünk a billentyűzet mögött tartózkodóknak, az algoritmusokat programozó embereknek.

"Nem kell létrehoznunk egy olyan világot, amelyben a gépek azt mondják, hogy mit kell tennünk vagy hogyan gondoljunk, bár valószínűleg ilyen világba kerülünk" - mondja. A könyv egészében gyakran felteszi a kérdést: „Veszélyünkben áll-e az emberiségünk elvesztése?”

Jelenleg még nem vagyunk abban a szakaszban, ahol az emberek ki vannak téve a képből. A világban betöltött szerepünket még nem hagyták le, és hosszú távon sem lesz. Az emberek és a gépek együtt tudnak működni erősségeikkel és gyengeségeikkel. A gépek hibásak, és ugyanolyan hibákat követnek el, mint mi. Vigyáznunk kell arra, hogy mennyi információt és hatalmat feladunk, mivel az algoritmusok ma már az emberiség szerves részét képezik, és nem haladnak el sehova hamarosan.