Spoznajte Diem, Socialni iskalnik, ki ga poganja AI, naj bi se počutil kot klepet v skupini vašega prijatelja

Na primer, recimo, da želite vedeti, koliko stane zamrznitev jajc. To vprašanje bi vtipkali v DIEM, komponenta AI. In prejeli bi oboje, skupaj z vsemi objavami v skupnosti na to temo, če bi vas zanimalo, kako se pomaknete po njih.

Na ta način Diem združuje enostavnost AI s personalizacijo znanja dejanskih žensk in ne-binarnih ljudi-zelo vrste anekdotičnih informacij in življenjskih izkušenj in življenjskih izkušenj in življenjskih izkušenj in življenjskih izkušenj in življenjskih izkušenj in življenjskih izkušenj in življenjskih izkušenj in opravljanje Pogosto ga iskalniki pogosto deprioritizirajo zaradi pristranskosti (več o tem spodaj). Bates pravi kombinacija, zaradi česar so informacije o Diemu koristne in neposredno uporabne za ljudi iz teh skupnosti. "Način, kako smo vedno razmišljali o gradnji, je:" Kako lahko ustvarimo prostor, kjer lahko iščete kolektivna vpogled v svoje skupnosti?"" Pravi. »Če lahko skupaj gradite s svojo skupnostjo, oblikuje glas, podatke in izkušnje, na koncu pa se počuti drugače."

Vprašanje pristranskosti med spoloma na iskalnikih in platformah AI

Ker je pristranskost spola razširjena v družbi kot celoti, obstaja tudi v algoritmih internetnih iskalnih motorjev in spodbuja vrzel v informacijah o spolu. To je ista vrzel, s katerim se je Bates spopadla, ko je v letu 2018 poskušal najti veljavne, relativne informacije o jutranji tabletki.

Kot dokaz razmislite o rezultatih študije iz leta 2022, za katero so raziskovalci želeli ugotoviti, ali bi iskanja Google Images v državah z višjimi ocenami enakočina spola (ocenjena z indeksom globalne vrzeli med spoloma) tudi pokazala pristranskost spola. Da bi to storili, so v lokalnem jeziku 37 držav v svoji prvi študiji in 52 državah v njihovi drugi raziskavi opravili besedo "oseba". V vseh primerih so rezultati iskanja v Googlu v državah z večjo stopnjo neenakosti družbenih spolov pokazali tudi večjo neskladje med spoloma (kar pomeni, da je višji odstotek prvih 100 rezultatov slike pokazal moški v primerjavi z žensko).

Ugotovljeno je bilo, da tudi novi boti AI ohranjajo pristranskost med spoloma. Na primer, Bloomberg poročal, da je računalniški znanstvenik dobil chatgpt, da bi izpljunil kodo, v kateri je dejal, da bodo samo azijski ali belci naredili dobre znanstvenike; Generalni direktor podjetja se je na Twitter odzval na znanstvenika in uporabnike spodbudil, da "pačijo" takšne odgovore, da bi se programu pomagalo, da se ne bo širil pristranskost.

Ko sem zastavil Chatgpt podobno vprašanje, je pisalo, da ni primerno uporabljati spola ali dirke nekoga, da ugotovimo, ali se bodo odlično odrezali v poklicu. A čeprav se zdi, da se AI trenutno uči biti manj pristranski, se še vedno zanaša na objektivne, sočutne uporabnike, da ga usposobijo tako. (Medtem ko je Diem AI v veliki meri usposobljen za ustvarjene informacije z in za Ženske in ne-binarne ljudi in zato ni podvrženo istemu vprašanju pristranskosti proti ženskam iz skoka.)

"AI je tako dober kot podatki, na katerih je usposobljen, in ker imajo vsi ljudje pristranskost in predsodke, ko se uporabljajo njihovi podatki."-NINA Vasan, dr. Med

Te ugotovitve ponazarjajo, kako pristranskosti, ki jih vzdržujemo, kot ljudje naravno prenašajo na izdelke, ki jih ustvarjamo, in nabore podatkov, ki jih prispevamo. "AI je tako dober kot podatki, na katerih se usposobi, in ker imajo vsi ljudje pristranskost in predsodke, ko se uporabljajo njihovi podatki, da pristranskost in predsodki postaneta del AI platforme za digitalno terapijo Real in ustanovitelj in izvršni direktor Brainstorm: Stanford Lab za inovacije duševnega zdravja.

Kako želi DIEM postati zabaven, informativni iskalnik posebej za ženske in nebinarne ljudi

Glede na predvideno uporabniško demografsko kategorijo Diema, Bates pravi, da razmišlja o informacijah, ki jih delijo na platformi in jih ustvari Chatbot kot odgovore na vprašanja, ki jih imajo ljudje, ko so v "prijateljski fazi" svojega življenja; Ljudje absorbirajo veliko informacij od prijateljev, ko so v svojih dvajsetih in zgodnjih tridesetih, pravi. Ideja z Diemom je, da pridobivate perspektive različnih ljudi vaše starosti in spolne identitete, s katerimi morda niste bili drugače, in da kolektivno razumevanje koristi vsem na platformi.

Ker se Diem AI hrani z informacijami neposredno od ljudi tega demografskega. Od zdaj je na tisoče žensk in ne-binarnih ljudi postavilo vprašanja in delilo odgovore na Diem o temah, ki so pomembne zanje, zlasti v kategorijah osebnega zdravja, denarja in odnosov-kjer je Diem AI najbolje usposobljen.

Medtem ko se še vedno uči, se izvleče iz širšega lastniškega nabora podatkov (podobno tistemu, ki poganja chatgpt), da bi našel informacije o vprašanjih, o katerih ljudje v skupnosti še niso razpravljali. Vendar je točka razlikovanja v tem, da še vedno zavrti "povzet odgovor na diem-y" za ta vprašanja, pravi Bates z dejanskimi Diem Consos za obveščanje o slogu in tonu odgovorov.

Ker pa je Diem še vedno AI, ki se zanaša na vsebino, ki jo ustvari uporabnik, in na širši nabor podatkov, zagotovo ni imunski Za težave, s katerimi se soočajo drugi iskalniki in AI chatboti, vključno z lažnimi, zavajajočimi in, da, celo pristranskimi vsebinami. V aplikaciji in na namizni različici je gumb za prijavo zlorabe, platforma pa je objavila nabor smernic skupnosti-ki spodbujajo stvari, kot sta "prijaznost in radovednost" in "empatična angažiranost"-za zagotovitev varnosti svojih uporabnikov in kakovost informacij.

Diem se začne v času, ko vladni uradniki tako v ZDA kot v Evropski uniji raziskujejo načine za urejanje AI, predvsem zaradi zgoraj navedenih pomislekov. V u.S. Konkretno je urad predsednika Joea Bidena oktobra objavil osnutek zakona o pravicah AI, dvostransko skupino U.S. Senatorji, ki jih vodi senator Chuck Schumer, si prizadeva za zakonodajo, da bi ustanovili zaščite po industriji, štiri vladne agencije pa so prejšnji mesec objavile skupno izjavo, v kateri so opisane pristojnosti, ki jih imajo za močnejše urejanje industrije, zlasti proti diskriminaciji, ki je posledica pristranskosti.

Toda Bates ni odvrnil z vstopom v to pokrajino. Napoveduje, da bo v prihodnosti interneta prišlo do "zanimivega premika", kjer bodo ljudje iskali informacije, ki skrbijo posebej, kje so v življenju. Namesto da bi prosila Googla za nasvete za zmenke, na primer upa, da boste kmalu šli na platformo, kot je Diem.

"Trenutno obstajamo v monopolih in to vpliva na to, kako uporabljamo internet in kaj pričakujemo od platform," pravi Bates. Navsezadnje ti monopoli pogosto odražajo pristranskost v prid moškim. "Mislim, da bo prihodnost interneta ponudila več nišnih izkušenj," pravi. In kdo naj reče nišo, je nujno majhna? Kot poudarja Bates, ženske, ki identificirajo ženske, predstavljajo skoraj enak delež ljudi na planetu. In zdaj čaka velikanski skupinski klepet na njihov prispevek.