Kamakailan, Inilunsad ang Amazon ang AI chatbot nito na Amazon Q, na nagdudulot ng interes mula sa mga kumpanya ngunit nag-aalala rin sa mga empleyado sa seryosong mga isyu sa katumpakan at privacy. Q ay iniulat para sa pagkakaroon ng "guni-guni ng hindi poco account” at ibinunyag ang kumpidensyal na data, na nagtataas ng mga tanong tungkol sa seguridad ng impormasyon ng kumpanya. Narito ang mga detalyeng ibinunyag ni platformer.
Alerto sa seguridad para sa Amazon Q: sa pagitan ng kumpidensyal na data at mga maling sagot
Birago pakilala niya ang AI chatbot nito, na tinatawag na Q, tatlong araw na ang nakakaraan, ngunit hindi lahat ay tila nangyayari ayon sa plano. Ang ilang mga empleyado ay nagtaas ng alarma sa mga isyu ng katumpakan at privacy: Ang Amazon Q ay nagpakita ng "mga guni-guni" at nagsiwalat impormasyon kumpidensyal, gaya ng lokasyon ng mga AWS data center, mga internal na programa ng diskwento, at mga feature na hindi pa inilalabas.
Ang impormasyong ito ay lumabas mula sa mga dokumentong na-leak at nakuha ni platformer, highlight a Level 2 na isyu sa seguridad, isang seryosong sitwasyon na nangangailangan ng agarang interbensyon ng mga inhinyero.
Sa kabila nito, minaliit ng Amazon ang kahalagahan ng mga panloob na talakayan na ito. Sinabi ng isang tagapagsalita ang pagbabahagi ng feedback sa pamamagitan ng mga panloob na channel ay karaniwang kasanayan sa Amazon at walang natukoy na isyu sa seguridad bilang resulta ng feedback na ito. Sinalungguhitan ng kumpanya ang kahalagahan ng feedback na natanggap at ang pagnanais na magpatuloy pinuhin ang Amazon Q habang lumilipat ito mula sa preview patungo sa pangkalahatang availability.
Ang Amazon Q, na kasalukuyang magagamit sa isang libreng preview, ay ipinakita bilang isang bersyon ng software ng enterprise ng isang chatbot, na may mga paunang function na naglalayong sagutin ang mga tanong ng developer tungkol sa AWS, pagbabago ng mga source code at pagbanggit ng mga source. Binigyang-diin ng Amazon ang seguridad at privacy ng Q, na inihambing ito sa mga tool sa antas ng consumer tulad ng ChatGPT.
Gayunpaman, ang isang panloob na dokumento ay nagsiwalat na ang Q ay maaaring "mag-hallucinate" at magbigay ng nakakapinsala o hindi naaangkop na mga tugon, tulad ng hindi napapanahong impormasyon sa seguridad na maaaring ilagay sa panganib ang mga account ng customer. Ang mga panganib na ito ay karaniwan sa malalaking modelo ng wika, na lahat ay may posibilidad na magbigay ng hindi tama o hindi naaangkop na mga tugon kahit man lang sa ilang pagkakataon.
Via | Slashdot
