OpenAI ay isa sa mga pinaka-tinalakay at maimpluwensyang kumpanya. Kamakailan, naglabas ang kumpanya ng isang blog post na nakakuha ng atensyon ng mga tagapagturo, mag-aaral, at mahilig sa tech. Ang post ay nagbigay ng mga tip sa kung paano gamitin ang ChatGPT bilang tool sa pagtuturo. Gayunpaman, isang bahagi ng post ang nagtaas ng kilay at nakabuo ng debate: ang pag-amin na Ang mga AI-based na handwriting detector ay hindi gaanong maaasahan gaya ng iniisip mo. Sama-sama nating tingnan ang mga detalye ng artikulo.
Ang katotohanan ng mga AI detector ayon sa OpenAI: isang balangkas poco malinaw
Sa seksyong FAQ ng post, OpenAI nakaharap ang isyu ng mga AI writing detector, na nagsasabi na "wala sa mga tool na ito ang naipakita na mapagkakatiwalaan ang pagkakaiba sa pagitan ng nilalamang binuo ng AI at nilalamang binuo ng tao“. Ang pahayag na ito ay partikular na nauugnay sa isang edad kung saan ang pagsusulat na binuo ng AI ay nagiging mas sopistikado, hanggang sa punto na nakalilito maging ang mga eksperto. Sa katunayan, ipinakita iyon ng ilang pag-aaral ang mga detector na ito ay kadalasang gumagawa ng mga maling positibo, pagtatanong sa kanilang pagiging epektibo at pagiging maaasahan.
Mga teksto, katumpakan at pagiging maaasahan
Ngunit ano ba talaga ang ibig sabihin ng pahayag na ito sa mas malawak na konteksto ng artificial intelligence at pagsasama nito sa lipunan? Una sa lahat, itinatampok nito ang pagtaas ng pagiging kumplikado ng mga modelo ng wika tulad ng ChatGPT, na ay naging napaka-advance na nakabuo sila ng mga teksto na halos hindi na makilala sa mga isinulat ng mga tao. Nagtataas ito ng mga etikal at praktikal na katanungan, lalo na sa akademya, kung saan ang posibilidad ng AI-assisted plagiarism ay isa. pagmamalasakit lumalaki.
Pangalawa, ang pahayag ng OpenAI ay nagha-highlight sa pangangailangan na bumuo ng mas epektibong paraan ng pagtuklas. Sa ngayon, maraming detector umaasa sila sa mga sukatan at algorithm na hindi pa sapat na nasubok o napatunayan. Halimbawa, ang ilan ay gumagamit ng natural language analysis (NLP) upang maghanap ng mga partikular na pattern sa text, ngunit ang mga pattern na ito ay madaling mamanipula o maiiwasan. Ang iba pa ay umaasa sa mga database ng mga halimbawa ng text na binuo ng AI, ngunit ang mga database na ito ay madalas na luma o hindi kumpleto.
Sa wakas, ang kakulangan ng pagiging maaasahan ng mga kasalukuyang AI detector ay nagbubukas ng pinto sa potensyal na pang-aabuso. Isipin natin ang isang konteksto kung saan mali ang label ng isang maling AI detector sa isang akademikong sanaysay bilang binuo ng AI, inilalagay sa panganib ang karera ng isang mag-aaral o mananaliksik. O kaya, isaalang-alang ang panganib na maaaring magsimulang magduda ang mga tao sa katotohanan ng anumang uri ng online na nilalaman, na higit pang nagpapasigla sa krisis ng maling impormasyon.
Basahin din ang: Artificial intelligence: bakit dapat nating bantayan ang UAE
OpenAI: ChatGPT at ang mulat nitong "kamangmangan".
Ang isa pang mahalagang punto na itinaas ng OpenAI ay ang Ang likas na limitasyon ng ChatGPT sa pagkilala kung ang isang teksto ay nabuo ng isang artificial intelligence o isang tao. Ito ay isang detalye na maaaring hindi isinasaalang-alang ng marami, ngunit isa na may makabuluhang implikasyon hindi lamang para sa akademya kundi pati na rin sa industriya at lipunan sa pangkalahatan. Halimbawa, kung hindi matukoy ng ChatGPT ang pagkakaiba sa pagitan ng nilalamang binuo ng AI at nilalaman ng tao, kung paano tayo makakaasa dito para sa iba pang kumplikadong mga gawain tulad ng akademikong pananaliksik, pagbuo ng mga ulat sa pananalapi o kahit na pagbalangkas ng mga legal na dokumento?
Ang huwad at ang walang kamalayan
Ang "kamangmangan" na ito ng ChatGPT ay naglalabas din ng mga tanong sa etika at pananagutan. Kung hindi matukoy ng modelo ng wikang AI ang sarili nitong "kamay" sa paggawa ng text, maaari itong hindi sinasadya cmag-ambag sa pagpapakalat ng mali o mapanlinlang na impormasyon. Ito ay partikular na may kinalaman sa mga larangan tulad ng pamamahayag at agham, kung saan ang katumpakan at pagpapatunay ng impormasyon ay pinakamahalaga. Ano ang tiyak na ito ay maiiwasan kapag ang tao ay pumunta upang baguhin ang isang nilikha na teksto (tulad ng nararapat).
Higit pa rito, ang limitasyon ng ChatGPT ay nagtataas ng mas malaking tanong tungkol sa likas na katangian ng artificial intelligence. Kung ang isang modelo ng AI ay walang "kamalayan" sa mga aksyon nito, hanggang saan natin ito maituturing na “matalino”? At paano nito binabago ang ating pag-unawa sa artificial intelligence bilang extension o pandagdag sa katalinuhan ng tao? Ito ang mga tanong na sinusubukan pa ring sagutin ng siyentipikong komunidad.
Bagama't hindi maaasahan ang mga tool sa awtomatikong pag-detect na nakabatay sa AI, hindi ito nangangahulugan na hinding-hindi ma-detect ng isang tao ang pagsulat na binuo ng AI. Halimbawa, maaaring mapansin ng isang guro na alam ang istilo ng pagsulat ng isang estudyante kapag biglang nagbago ang istilong iyon. Gayunpaman, sa ngayon, ipinapayong ganap na iwasan ang mga tool sa pagtuklas ng AI.
