Puwede bang bumagsak ang AI? Nagbabala ang mga eksperto tungkol sa mga panganib at solusyon nito
Bakit maaaring sumabog ang generatibong AI? Tuklasin ang mga kamakailang pag-aaral na nagbabala tungkol sa pagkasira nito at ang mga eksperto na sumusuri sa mga posibleng solusyon....May-akda: Patricia Alegsa
14-10-2024 14:21
Talaan ng Nilalaman
- Ang Babala ng Pagkabulok sa Generatibong AI
- Ang Pagbagsak ng Modelo: Isang Degeneratibong Phenomenon
- Ang Hirap ng Interbensyong Pantao
- Isang Hindi Tiyak na Kinabukasan: Mga Hamon at Posibleng Solusyon
Ang Babala ng Pagkabulok sa Generatibong AI
Kamakailang mga pag-aaral ang nagbigay ng babala tungkol sa isang nakakabahalang phenomenon sa pag-unlad ng generatibong artificial intelligence: ang pagkabulok ng kalidad ng mga sagot.
Itinuro ng mga eksperto na kapag ang mga sistemang ito ay sinanay gamit ang mga synthetic na datos, ibig sabihin, nilalaman na ginawa ng ibang AI, maaari silang mahulog sa isang siklo ng pagkasira na nagreresulta sa mga sagot na walang kabuluhan at walang saysay.
Ang tanong ay: paano nangyayari ito at ano ang mga hakbang na maaaring gawin upang maiwasan ito?
Ang "pagbagsak ng modelo" ay tumutukoy sa isang proseso kung saan ang mga sistema ng AI ay nahuhuli sa isang siklo ng pagsasanay gamit ang mababang kalidad na datos, na nagreresulta sa pagkawala ng pagkakaiba-iba at bisa.
Ang Pagbagsak ng Modelo: Isang Degeneratibong Phenomenon
Ang "pagbagsak ng modelo" ay tumutukoy sa isang proseso kung saan ang mga sistema ng AI ay nahuhuli sa isang siklo ng pagsasanay gamit ang mababang kalidad na datos, na nagreresulta sa pagkawala ng pagkakaiba-iba at bisa.
Ayon kay Ilia Shumailov, coauthor ng isang pag-aaral na inilathala sa Nature, nangyayari ang phenomenon na ito kapag nagsimulang pakainin ng AI ang sarili nitong mga output, na nagpapatuloy ng mga bias at nagpapababa ng kapakinabangan nito. Sa pangmatagalan, maaaring magdulot ito na ang modelo ay gumawa ng nilalamang mas homogenous at hindi gaanong tumpak, parang isang echo ng sarili nitong mga sagot.
Ipinaliwanag ni Emily Wenger, propesor ng engineering sa Duke University, ang problemang ito gamit ang isang simpleng halimbawa: kung ang AI ay sinanay upang gumawa ng mga larawan ng aso, malamang na ulitin nito ang mga pinakakaraniwang lahi, na iniiwan ang mga hindi gaanong kilala.
Ipinaliwanag ni Emily Wenger, propesor ng engineering sa Duke University, ang problemang ito gamit ang isang simpleng halimbawa: kung ang AI ay sinanay upang gumawa ng mga larawan ng aso, malamang na ulitin nito ang mga pinakakaraniwang lahi, na iniiwan ang mga hindi gaanong kilala.
Hindi lamang ito repleksyon ng kalidad ng datos, kundi nagdudulot din ito ng makabuluhang panganib para sa representasyon ng mga minorya sa mga training dataset.
Basa rin: Ang artipisyal na intelihensiya ay lalong nagiging matalino habang ang mga tao ay lalong nagiging hangal.
Sa kabila ng kalubhaan ng sitwasyon, hindi madali ang solusyon. Sinabi ni Shumailov na hindi pa malinaw kung paano maiiwasan ang pagbagsak ng modelo, bagaman may ebidensiya na ang paghahalo ng totoong datos at synthetic ay maaaring magpabawas sa epekto.
Basa rin: Ang artipisyal na intelihensiya ay lalong nagiging matalino habang ang mga tao ay lalong nagiging hangal.
Ang Hirap ng Interbensyong Pantao
Sa kabila ng kalubhaan ng sitwasyon, hindi madali ang solusyon. Sinabi ni Shumailov na hindi pa malinaw kung paano maiiwasan ang pagbagsak ng modelo, bagaman may ebidensiya na ang paghahalo ng totoong datos at synthetic ay maaaring magpabawas sa epekto.
Gayunpaman, nangangahulugan din ito ng pagtaas sa gastos sa pagsasanay at mas malaking kahirapan sa pag-access sa kumpletong mga dataset.
Ang kakulangan ng malinaw na pamamaraan para sa interbensyong pantao ay nag-iiwan sa mga developer sa isang dilemma: kaya ba talagang kontrolin ng tao ang hinaharap ng generatibong AI?
Binalaan ni Fredi Vivas, CEO ng RockingData, na ang labis na pagsasanay gamit ang synthetic na datos ay maaaring lumikha ng isang "echo chamber effect," kung saan natututo ang AI mula sa sarili nitong mga kamalian, lalo pang nagpapababa sa kakayahan nitong gumawa ng tumpak at magkakaibang nilalaman. Kaya naman, ang tanong kung paano matitiyak ang kalidad at kapakinabangan ng mga modelo ng AI ay nagiging mas mahalaga.
Isang Hindi Tiyak na Kinabukasan: Mga Hamon at Posibleng Solusyon
Nagkakasundo ang mga eksperto na hindi likas na masama ang paggamit ng synthetic na datos, ngunit nangangailangan ito ng responsableng pamamahala. Ang mga panukala tulad ng pagpapatupad ng watermark sa mga generated na datos ay maaaring makatulong upang matukoy at ma-filter ang synthetic na nilalaman, kaya't masisiguro ang kalidad sa pagsasanay ng mga modelo ng AI.
Gayunpaman, nakasalalay ang bisa ng mga hakbang na ito sa kooperasyon sa pagitan ng malalaking kumpanya sa teknolohiya at mga developer ng mas maliliit na modelo.
Nasa alanganin ang kinabukasan ng generatibong AI, at ang komunidad siyentipiko ay nasa karera laban sa oras upang makahanap ng solusyon bago sumabog ang bula ng synthetic na nilalaman.
Nasa alanganin ang kinabukasan ng generatibong AI, at ang komunidad siyentipiko ay nasa karera laban sa oras upang makahanap ng solusyon bago sumabog ang bula ng synthetic na nilalaman.
Ang susi ay ang pagtatatag ng matibay na mekanismo upang matiyak na mananatiling kapaki-pakinabang at tumpak ang mga modelo ng AI, upang maiwasan ang pagbagsak na kinatatakutan ng marami.
Mag-subscribe sa libreng lingguhang horoscope
Aquarius Aries Birhen Capricorn Gemini Kanser Leo Libra Pisces Sagittarius Scorpio Taurus
-
Trahedya sa Bavaria: Isang influencer ang namatay habang kumuha ng litrato sa isang kastilyo
Trahedyang pagkamatay ng 23 taong gulang na gymnast na si Natalie Stichova matapos mahulog ng 80 metro habang kumukuha ng isang mapanganib na litrato sa Bavaria, malapit sa kastilyo ng Sleeping Beauty. -
Pamagat:
Maaari bang Palitan ng Bluesky ang X (Twitter)? Isang Mas Modernong Social Media
Pamagat: Maaari bang Palitan ng Bluesky ang X (Twitter)? Isang Mas Modernong Social Media Panahon na ba para sa Bluesky? Higit pa sa pagpili sa pagitan ng Twitter, X, Mastodon, Threads, o Bluesky, ang mahalaga ay kung gaano tayo kalalim nakapag-aral mula sa kasaysayan upang hindi maulit ang mga pagkakamali. -
Bawasan ng hanggang 35% ang panganib ng mga tumor sa atay gamit ang statins
Ipinapahayag ng National Cancer Institute ng Estados Unidos na ang posibilidad ng mga tumor sa atay ay bumababa ng hanggang 35%. Magkaroon ng kaalaman at alagaan ang iyong kalusugan! -
Nakakabighani! Pinapayagan tayo ng NASA na makita ang mga sunog sa buong mundo nang real-time
Tingnan ang planetang Earth mula sa itaas: makikita mo ang mga lugar ng sunog na nangyayari sa real-time o ang mga nagdaang sunog. Magulat ka! -
Paalala tungkol sa virus ng Marburg, katulad ng virus na Ebola
Bagong pagkalat ng virus ng Marburg: nakakaapekto sa mga manggagawa sa pangangalagang pangkalusugan na may mataas na antas ng pagkamatay. Alamin kung saan at iba pang mga detalye tungkol sa mapanganib na pathogen na ito.
Ako si Patricia Alegsa
Ako ay nagsusulat ng mga artikulo tungkol sa horoscope at self-help nang propesyonal sa loob ng mahigit 20 taon.
Mag-subscribe sa libreng lingguhang horoscope
Tumanggap lingguhan sa iyong email ng horoscope at ng aming mga bagong artikulo tungkol sa pag-ibig, pamilya, trabaho, panaginip at iba pang balita. HINDI kami nagpapadala ng spam.
Astral at numerolohikal na pagsusuri
-
Tagapagpaliwanag ng mga Panaginip online: gamit ang artipisyal na intelihensiya
Nais mo bang malaman ang kahulugan ng isang panaginip na iyong naranasan? Tuklasin ang kapangyarihan ng pag-unawa sa iyong mga panaginip gamit ang aming advanced na tagapagpaliwanag ng mga panaginip online na gumagamit ng artipisyal na intelihensiya na sumasagot sa iyo sa loob ng ilang segundo.
-
Malaking pag-unlad sa agham sa mga teknik sa pagtuklas ng Alzheimer
Mas tumpak na resulta kaysa sa mga pagsusuring kognitibo at CT scan sa pangunahing pangangalaga. Mga natuklasan na maaaring magpadali sa madaling pagtuklas ng sakit. -
Title:
Tuklasin ang iyong personalidad ayon sa upuan na iyong pipiliin: Mangahas na kilalanin ang iyong sarili!
Ano ang sinasabi ng iyong pagpili ng upuan tungkol sa iyong personalidad? Mula sa matigas na plastik na upuan hanggang sa pinaka-komportableng puff, tuklasin ang 11 uri ng mga upuan at kung ano ang kanilang ipinapakita tungkol sa iyo. Subukan ang pagsusulit at magulat! -
Pamagat:
Pagsusuri sa Joker 2, isang matapang ngunit nakakainip na pelikula
Pagsusuri sa ‘Joker: Folie à Deux’: isang matapang ngunit nabigong sequel. Napapagod si Joaquin Phoenix at nagdudulot ng kawalang-interes si Lady Gaga. Alamin kung bakit! -
Ang nakakabagabag na propesiya ni Nostradamus: isang lider ang bumagsak at ang mundo ay nasa bingit ng digmaan bago matapos ang taon
Nanghula si Nostradamus ng pagbagsak ng isang lider, isang pandaigdigang digmaan, at isang bagong pera bago matapos ang taon. Tayo ba ay nasa bingit ng isang makasaysayang pagbabago? -
Kamangha-mangha!: Minomonitor gamit ang artipisyal na intelihensiya ang produktibidad ng mga empleyado
Isang video na naging viral kamakailan ay nagpapakita kung paano gamit ang artipisyal na intelihensiya, agad na namomonitor ang mga manggagawa. Tingnan ang kamangha-manghang video! -
Bakit Ipinagdiriwang ang Pandaigdigang Araw ng Albinismo?
Tuwing ika-13 ng Hunyo ay hindi lamang isang karaniwang araw sa kalendaryo. Mula pa noong 2015, ang araw na ito ay naging isang ilaw ng pag-asa, pagsasama, at kamalayan para sa libu-libong tao sa buong mundo. -
Doppelgängers: Maaaring Mayroon Kang Kambal na Hindi Mo Kapatid
Tuklasin kung ano ang mga doppelgängers: ipinapakita ng agham ang mga nakakagulat na pagkakatulad sa genetika sa pagitan ng mga taong walang kaugnayan, na nagpapakita ng mga hindi inaasahang koneksyon. -
Ano ang ibig sabihin ng mangarap na may pananabik para sa isang tao?
Tuklasin ang nakatagong kahulugan sa likod ng iyong mga panaginip na may pananabik para sa isang tao. Anong mensahe ang ipinapadala ng iyong subconscious? Basahin ang artikulong ito at alamin! -
Ang Pagpanaw ni Papa Francisco: Ano ang Sinasabi ng Kanyang Birth Chart
Ang birth chart ni Francisco, naimpluwensiyahan ng Sagittarius, Aquarius, at Cancer, ay nagpapakita ng kanyang malayang espiritu at mapag-alagang kalikasan. Inilalahad ni Beatriz Leveratto ang kanyang esensyang repormista. -
Tumaas ang mga kaso ng kanser sa colon sa mga kabataan: pinaghihinalaang sanhi ang mga ultra-proseso na pagkain
Tumaas ang kanser sa colon sa mga taong wala pang 50: diyeta at mga ultra-proseso na pagkain, nasa ilalim ng pagsusuri. Nagbabala ang mga eksperto: pinapataas ng kasalukuyang mga gawi ang panganib. -
Ano ang ibig sabihin ng mangarap ng isang higanteng alon?
Tuklasin ang kahulugan sa likod ng iyong mga panaginip tungkol sa isang higanteng alon. Nakakaramdam ka ba ng labis na bigat o handa ka nang harapin ang mga hamon? Hanapin ang mga sagot sa aming artikulo. -
Pangunahing Hamon: Isang Influencer ay Kumain ng 24 na Itlog Araw-araw at Ibinunyag ang Kanyang Kolesterol
Kumain si Nick Norwitz ng 24 na itlog araw-araw sa loob ng isang buwan upang suriin ang epekto nito sa kolesterol, na nilalabanan ang mga rekomendasyon ng WHO. Nakakagulat! -
Ano ang ibig sabihin ng mangarap tungkol sa mga paliparan?
Alamin ang kahulugan ng mangarap tungkol sa mga paliparan, ano ang mensaheng ipinapadala sa atin ng ating subconscious? Tuklasin sa aming artikulo ang isang detalyadong interpretasyon.