OpenAI may ang konsepto ng Superalignment, isang makabuluhang hakbang pasulong sa pamamahala sa mga panganib na nauugnay sa superintelligence. Ang superintelligence, na tinukoy bilang ang pinaka-maimpluwensyang teknolohiya na naimbento ng sangkatauhan, ay maaaring makatulong sa paglutas ng marami sa pinakamahahalagang problema sa mundo. Gayunpaman, ang malawak na kapangyarihan ng superintelligence maaari rin itong maging lubhang mapanganib, na humahantong sa pagkawala ng kapangyarihan ng sangkatauhan o maging ng pagkalipol ng tao.
Ang OpenAI ay nagpapakita ng Superalignment: ang pagtatangkang "iayon" ang artificial intelligence sa layunin ng tao
Bagama't mukhang malayo ang superintelligence, naniniwala ang OpenAI na maaari itong dumating ngayong dekada. Ang pamamahala sa mga panganib na ito ay mangangailangan, bukod sa iba pang mga bagay, mga bagong institusyon para sa pamamahala at paglutas ng problema sa pagkakahanay ng superintelligence: Paano mo matitiyak na ang mga AI system na mas matalino kaysa sa mga tao ay sumusunod sa layunin ng tao?
Sa kasalukuyan, walang solusyon upang gabayan o kontrolin ang isang superintelligence system. Mga kasalukuyang diskarte sa pag-align ng AI umaasa sila sa kakayahan ng mga tao na pangasiwaan ang AI, na hindi aabot sa superintelligence. Ang layunin ng OpenAI ay bumuo ng isang automated human-level alignment searcher. Upang makamit ito, kailangang bumuo ng mga nasusukat na pamamaraan ng pagsasanay.
Basahin din ang: AI at AGI: Hinulaan ng Google CEO DeepMind ang isang napipintong tagumpay
Binubuo ng OpenAI ang isang pangkat ng mga nangungunang mananaliksik at inhinyero sa pag-aaral ng makina upang lutasin ang problemang ito. 20% ng computing power na makukuha sa susunod na apat na taon ay ilalaan sa paglutas ng problemang ito. Ang layunin ay lutasin ang mga pangunahing teknikal na hamon ng superintelligence alignment sa loob ng apat na taon. Inaanyayahan ng OpenAI ang lahat ng nagtagumpay sa machine learning na ituon ang kanilang atensyon sa alignment. Ang mga bunga ng pagsisikap na ito ay ibabahagi nang malawakan, at ang pagkakahanay at seguridad ng mga modelong hindi OpenAI ay mahalaga. Dapat sabihin na ang kumpanya ay gagana rin upang mapabuti ang seguridad ng mga kasalukuyang modelo at tugunan ang iba pang mga panganib na nagmumula sa AI.
Ang paglutas ng pagkakahanay ng superintelligence ay nangangailangan ng pinakamahusay na mga isip sa mundo. OpenAI hinihikayat ang interdisciplinary collaboration at aktibong pakikipag-ugnayan sa mga isyung sosyoteknikal na nauugnay sa pagkakahanay ng superintelligence.
