Szülői felügyelet: a „mesterséges intelligencia” a babysitters társadalmi médiatörténetük alapján történő értékelése
Amikor Jessie Battaglia elkezdett egy új bébiszittert keresni egy éves fiának, több információt szeretett volna kapni, mint egy büntetőjogi ellenőrzésből, szülői megjegyzésből és szemtől-szembe interjúból.
Így fordult Predictim-hez, egy olyan online szolgáltatáshoz, amely „fejlett mesterséges intelligenciát” használ a babysitter személyiségének felmérésére, és szkennereit egy jelölt több ezer Facebook, Twitter és Instagram posztjára irányította.
A rendszer egy 24 éves jelölt automatizált „kockázati besorolását” kínált, mondván, hogy „nagyon alacsony kockázatot jelent” a kábítószer-visszaélőként. Ez azonban egy kicsit magasabb kockázati értékelést adott - az ötből kettő - a zaklatás, a zaklatás, a "tiszteletlen" és "rossz hozzáállás" miatt.
A rendszer nem magyarázta meg, miért hozta ezt a döntést. De Battaglia, aki úgy gondolta, hogy az alvás megbízható volt, hirtelen érezte a kétségeket.
"A szociális média egy személy karakterét mutatja" - mondta Battaglia, 29 éves, aki Los Angelesben él. - Akkor miért jött be egy kettőbe, és nem egybe?
A Predictim ugyanazokat a játékokat kínálja a szülőknek, hogy több tucat más technológiai vállalkozás értékesíti a világ minden tájáról származó munkáltatókat: mesterséges intelligencia rendszerek, amelyek egy személy beszédét, arc-kifejezéseit és online történetét elemzik magánéletük rejtett aspektusainak feltárásával.
A technológia átalakítja azt, hogy egyes vállalatok hogyan alkalmazzák a munkavállalók toborzását, bérbeadását és felülvizsgálatát, és az invazív pszichológiai értékelés és felügyelet új hulláma révén a munkáltatóknak egyedülállóan megnézik a munkaköröket.
A Fama technikai cég azt mondja, hogy az AI-t használja a munkavállalók szociális médiáinak „mérgező viselkedésére”, és figyelmezteti a főnökeiket. A HireVue cég, amely olyan cégekkel dolgozik, mint például a Geico, a Hilton és az Unilever, olyan rendszert kínál, amely automatikusan elemzi a pályázók hangját, a szóválasztást és az arcmozgásokat a videóinterjúk során, hogy megjósolják készségeiket és viselkedésüket. (A pályázókat arra ösztönzik, hogy mosolyogjanak a legjobb eredményekért.)
De a kritikusok azt mondják, hogy a Predictim és hasonló rendszerek saját veszélyeiket mutatják be azáltal, hogy az automatizált és esetleg életváltoztató döntéseket gyakorlatilag nem ellenőrzik.
A rendszerek a fekete dobozok algoritmusaitól függenek, amelyek kevés részletet adnak arról, hogyan csökkentették az ember belső életének bonyolultságát az erény vagy a kár kiszámításához. És mivel a Predictim technológiája befolyásolja a szülők gondolkodását, még mindig teljesen bizonyítatlan, nagyrészt megmagyarázhatatlan és érzékeny a csendes elfogultságokra vonatkozóan, hogy a megfelelő bébiszitternek meg kell osztania, megnéznie és beszélnie kell.
Ez az "őrült rohanás, hogy megragadja az AI hatalmát, hogy mindenféle döntést hozhasson anélkül, hogy biztosítaná, hogy elszámoltatható az emberek iránt" - mondta Jeff Chester, a Digitális Demokrácia Központ igazgatója. "Olyan, mintha az emberek részegítették volna a digitális Kool-segélyt, és úgy gondolják, hogy ez megfelelő módja az életünk irányításának."
A Predictim szkennelése elemzi a bébiszitter teljes médiumának történetét, amely a legtöbb legfiatalabb ülő számára az életük nagy részét lefedi. És a szittereknek azt mondják, hogy nagy hátrányban vannak a versenyképes munkahelyekért, ha megtagadják.
Predictim vezetője és társalapítója, Sal Parsa azt mondta, hogy a múlt hónapban a Kaliforniai Egyetem részeként a Berkeley SkyDeck tech inkubátorán elindított cég etikai kérdéseket vet fel a technológia használatával kapcsolatban. Azt mondta, a szülőknek meg kell találniuk a hitelminősítőket mint társat, akik "nem tükrözik, vagy nem tükrözik az alvó tényleges tulajdonságait."
De az a probléma, hogy egy problémás vagy erőszakos bébiszittert bérbe vesz, hozzátette, hogy az AI-nek a szükséges eszköze lehet annak a szülőnek, aki gyermeket akar tartani.
"Ha bántalmazó bébiszittereket keres a Google-on, most több száz eredményt fog látni, " mondta. "Vannak emberek, akik mentális betegséggel rendelkeznek, vagy csak rosszul születnek. Célunk, hogy bármit meg tudjunk állítani, hogy megállítsuk őket."
A Predictim szkennelés $ 24, 99-től kezdődik, és bébiszitter-nevet és e-mail címet igényel, és beleegyezik, hogy széles körű hozzáférést biztosít a közösségi média fiókjaihoz. A bébiszitter visszaeshet, de egy szülő értesül a visszautasításról, és egy e-mailben a bébiszitter azt mondja: "az érdekelt szülő nem tudja felvenni, amíg nem teljesíti ezt a kérést."
A Predictim vezetői azt mondják, hogy nyelvi feldolgozó algoritmusokat és képalkotási szoftvereket használnak, amelyek "számítógépes látás" néven ismertek a bébiszitterek Facebookra, Twitterre és Instagram-üzeneteire az offline életük nyomaiért. A szülő kizárólag a jelentést kapja, és nem kell az eredményeket megmondania.
A szülők feltehetőleg maguk is megnézhetik az ülőik nyilvános közösségi médiafiókjait. A számítógéppel generált jelentések azonban az online tevékenység éveinek mélyreható vizsgálatát ígérik, melyet egyetlen számjegyre írtak le: egy szokatlanul egyszerű megoldást egy praktikus feladathoz.
A kockázati besorolásokat több kategóriába sorolják, beleértve a kifejezett tartalmat és a kábítószerrel való visszaélést. Az indulás azt is hirdette, hogy a rendszer képes értékelni a bébiszittereket más személyiségvonásokra, például udvariasságra, a másokkal való munkára való képességre és a "pozitivitásra".
A cég reméli, hogy támogatni fogja a több milliárd dolláros "szülői kiszervezés" iparágat, és hirdetéseket kezdett a szülői és "múmia" blogok fizetett szponzorálásán keresztül. A cég marketingje nagy hangsúlyt fektet arra, hogy rejtett titkokat tárjon fel, és megakadályozza a „minden szülő rémálmát”, hivatkozva a bűncselekményekre, ideértve egy Kentucky babysitter-et is, amelyet az idén korábban egy nyolc hónapos lány súlyosan megsérült.
"Ha a babysitter sérült meg a szülőknek, a Predictim-et a tesztelési folyamat részeként tudták használni, " mondja egy cég marketingdokumentuma: "soha nem hagynák őt egyedül a drága gyermekükkel."
De a technikai szakértők szerint a rendszer saját vörös zászlóit emeli ki, beleértve a gondot, hogy a szülők félelmei miatt próbára teszik a tesztelés nélküli pontosságú személyiségvizsgálatokat.
Azt is megkérdőjelezik, hogy a rendszereket hogyan képezték, és milyen sérülékenyek lehetnek az ülők szociális médiahasználatának homályos jelentéseinek félreértése. A szülők csak a legmagasabb kockázattal járó szkennelésre vonatkoznak, és csak a megkérdőjelezhető viselkedést javasolják, és nincsenek külön kifejezések, linkek vagy részletek, amelyeket önállóan értékelni lehet.
Amikor egy bébiszitter szkennelését a lehetséges megfélemlítés viselkedéséért jelölték meg, azt a meggondolatlan anyát, aki azt kéri, nem tudta megmondani, hogy a szoftver észrevett-e egy régi film idézetet, dalszöveget vagy más kifejezést a tényleges zaklatás nyelvével szemben.
De Predictim mindazonáltal azt mondja, hogy egy országos terjeszkedést tervez. A Sittercity vezetői, a szülők milliói által látogatott online bébiszitter piacon azt mondták, hogy elején indítanak kísérleti programot a jövő év elején, amely a Predictim automatizált minősítéseit a webhely jelenlegi sitteres szűréseinek és háttérellenőrzésének tömbjévé teszi.
„A szülők megtalálása sok bizonytalansággal járhat” - mondta Sandra Dainora, a Sittercity termékvezetője, aki úgy véli, hogy az ilyen eszközök hamarosan „standard valutává” válhatnak a gondozók online kereséséhez. "A szülők mindig a legjobb megoldást keresik, a legtöbb kutatást, a legjobb tényeket."
A Washington Post