Nan laj dijital la, nou ap kominike avèk AI pi plis ak pi souvan, ak AI gen yon pakèt aplikasyon nan divès domèn, soti nan kay entelijan ak aplikasyon pou telefòn mobil. Pami yo, chatbot te akeyi pa piblik la pou karakteristik pratik ak efikas li yo, e li te vin tounen yon jaden cho nan atansyon.
Kit se ChatGPT OpenAI a, oswa Bard Google, chatbots sa yo resevwa fòmasyon epi kominike avèk itilizatè yo lè l sèvi avèk gwo kantite done ki sòti nan Entènèt la.
Sepandan, èske w te janm konsidere ke pandan w ap kominike san pwoblèm mwen tap ak fasil ak yon chatbot, li ka espyonaj sekrè ou tou dousman?
Ki jan chatbots AI dedui enfòmasyon itilizatè yo?
Yon etid resan pa syantis òdinatè nan ETH Zurich te jwenn ke yon chatbot ka dedwi enfòmasyon pèsonèl sou yon itilizatè, tankou kote yo ap viv, ras, sèks, ak plis ankò, ki baze sou kontni an nan konvèsasyon yo. Malgre ke etid la pa te revize kanmarad, li soulve nouvo enkyetid sou vi prive sou entènèt la.
Kapasite LLM yo pou jije ak jenere rezilta nan konpleksite done fòmasyon ak algoritm. Modèl la fòme sou yon gwo kantite done ki disponib piblikman, ki gen ladan tèks, foto, odyo, ak plis ankò sou entènèt la. Pandan fòmasyon an, yo te aprann ki jan yo ekstrè kle nan done yo epi klasifye ak predi nouvo tèks ki baze sou kle sa yo.
Ekip rechèch la te itilize tèks ki soti nan posts Reddit kote itilizatè yo te teste si LLM yo te kapab byen dedwi kote yo te viv oswa kote yo soti. Ekip rechèch la, ki te dirije pa Martin Vechev nan ETH Zurich, te jwenn ke modèl sa yo gen yon kapasite deranje pou devine enfòmasyon egzat sou itilizatè yo ki baze sou kontèks oswa siyal lengwistik pou kont li. Nan kè vèsyon ki peye Open AI ChatGPT, GPT-4 se etonan egzat nan predi enfòmasyon prive yon itilizatè 85 a 95 pousan nan tan an.
Pa egzanp, lè yon itilizatè mansyone "Mwen toujou ap tann yon kwòk vire nan yon entèseksyon" lè w ap kominike ak yon chatbot, chatbot la ka itilize enfòmasyon sa a pou dedwi kote itilizatè a rete, paske yon vire kwòk se yon aksyon trafik inik. nan Melbourne. Pou egzanp, si yon itilizatè mansyone nan yon konvèsasyon ke yo ap viv nan yon restoran toupre Vil Nouyòk, chatbot la ka analize demografik nan zòn nan epi dedwi ke ou gen plis chans nwa.
Sepandan, enferans sa a pa toujou egzat, paske lang ak konpòtman chak itilizatè yo inik. Men, li ase yo montre ke modèl AI, ki resevwa fòmasyon sou gwo done, ka deja aji tankou detektif, dedwi enfòmasyon kle nan kèk endikasyon w pèdi ensiyifyan.
Malgre ke anpil ekspè ap defann ke itilizatè medya sosyal yo ta dwe peye atansyon sou sekirite enfòmasyon epi yo pa pataje twòp enfòmasyon sou idantite sou entènèt, itilizatè òdinè yo souvan pa konnen ke diskou aksidantèl chak jou ak aksyon yo ka revele vi prive yo.
Ki sa ki ta dwe fè?
Pandan ke AI chatbots pote nou konvenyans, yo tou fè pwoteksyon vi prive pi konplike. Nou bezwen reponn sou plizyè nivo:
Premyèman, devlopè yo ta dwe priyorite pwoteksyon konfidansyalite ak totalman konsidere dwa vi prive itilizatè yo lè yo desine ak devlope chatbots. Pou egzanp, limite sijè ki abòde koleksyon ak itilizasyon done itilizatè yo, adopte teknik chifreman ak anonimizasyon pou pwoteje done itilizatè yo, ak devlopè yo ka prezante algoritm ki pwoteje vi prive pou limite kapasite chatbot yo pou dedwi enfòmasyon itilizatè yo.
Dezyèmman, gouvènman an ak regilatè yo ta dwe ranfòse sipèvizyon politik vi prive chatbots yo. Asire ke konpayi yo konfòme yo ak lwa ak règleman ki enpòtan lè yo kolekte, itilize ak pataje done itilizatè yo, epi bay itilizatè yo yon règleman sou enfòmasyon prive transparan, entèprete ak aksesib.
Finalman, kòm itilizatè, nou bezwen ogmante konsyantizasyon nou sou pwoteksyon vi prive. Lè w ap itilize yon chatbot, fè atansyon pou pa revele twòp enfòmasyon pèsonèl nan konvèsasyon an.
Devlopman AI chatbots te pote nou konvenyans ak plezi, men li te pote tou nouvo menas sou vi prive. Si tout pati yo travay ansanm, tou de teknikman ak etikman, nou ka maksimize benefis AI pandan y ap minimize risk potansyèl li yo.
Petèt apre "chòk" sa a, nou pral pi pridan sou epòk AI sa a ki plen chanjman ak opòtinite, pou syans ak teknoloji ka vrèman sèvi èt imen.