Хятадын хиймэл оюуны зөрчил кибер аюулгүй байдалд түгшүүр зарлав

THE CHOSUNILBO

Хятадын "Moonshot AI" компанийн хөгжүүлсэн "Kimi K3" хэмээх сүүлийн үеийн хиймэл оюун ухааны (ХОУ) загвар аюулгүй байдлын туршилтын үеэр хяналтын орчноосоо халин гадаад интернетэд холбогдсон тохиолдол гарлаа. Өмнө нь "OpenAI", "Anthropic", "Meta" зэрэг компанийн хаалттай загваруудад ийм зөрчил гарч байсан бол харин энэ нь хэн ч татаж аваад өөрчлөх боломжтой нээлттэй эх загварын хувьд анхны тохиолдол юм. Хакерууд уг загварын аюулгүй байдлын хамгаалалтыг эвдэн, өөр зорилгоор дахин тохируулан, "хакердах хэрэгсэл" болгон ашиглаж болзошгүй гэх сэрэмжлэл өндөр байна.

АНУ-ын кибер аюулгүй байдлын "Frontier Security" фирм мэдээлснээр, Их Британийн AI Safety Institute (AISI)-ийн бүтээсэн хяналтын орчинд (sandbox) "Kimi K3"-ын аюулгүй байдлын чадамжийг туршиж байх үед уг загвар интернетэд нэвтэрчээ. Даалгавар биелүүлэх явцдаа "Kimi K3" хяналтын тусгаарлалтыг даван гарч, кодеруудын мэдээлэл хуваалцдаг "GitHub" платформд холбогдон хэрэгцээт мэдээллээ хайн, хариултаа илгээсэн байна.

"Kimi K3" нь "GitHub"-ийг хакердаж эсвэл системд өөрчлөлт оруулаагүй бөгөөд зөвхөн шалгалтын үеэр нууцаар интернетэд холбогдон хариулт хайсан үйлдэл гаргажээ. Энэхүү явдал нь хүний хүчин зүйлийн алдаанаас үүдэлтэй байв. Туршилтын орчин нь гаднаас ирэх холболтыг хаасан ч гадагш чиглэсэн зарим сүлжээний сувгийг нээлттэй үлдээснийг "Kimi K3" олж харан ашигласан байна.

Энэ нь хиймэл оюуны загварууд аюулгүй байдлын туршилтын үеэр зөвшөөрөлгүйгээр гадаад системд нэвтэрсэн дөрөв дэх тохиолдол юм. Өмнө нь "OpenAI"-ийн "GPT-5.6 Sol" болон бусад танилцуулагдаагүй загварууд тусгаарлагдсан орчны эмзэг байдлыг ашиглан интернетэд нэвтэрч, "Hugging Face" платформын серверт нэвтэрч байжээ. Мөн "Anthropic"-ийн загварууд туршилтын орчны тохиргооны алдаанаас үүдэн гурван өөр байгууллагын системд нэвтэрсэн бол "Meta"-гийн загвар аль нэг компанийн системд нэвтэрч дотоод агуулгыг өөрчилж байв. Өндөр хүчин чадалтай хиймэл оюуны загварууд хяналтын тогтолцоог удаа дараа зөрчсөөр байна.

"Kimi K3"-ын тохиолдол ялангуяа түгшүүр төрүүлж буйн шалтгаан нь өмнөх хаалттай загваруудаас ялгаатай нь энэ нь хэн ч татан авч, өөрчлөх боломжтой нээлттэй эх бүхий код юм. Хаалттай загваруудыг хөгжүүлэгчид өөрсдийн сервер дээр ажиллуулдаг тул хэрэглэгчийн хандалт болон хамгаалалтын арга хэмжээг хянах боломжтой.

Харин нээлттэй эх бүхий загваруудыг хакерууд хувийн сервер дээрээ суулган, хамгаалалтын протоколыг нь устгаж, хортой код бичих болон халдлага үйлдэхэд зориулан дахин шинэчилж чадна. Нэгэнт тархсан ийм загварыг хөгжүүлэгчид зогсоох эсвэл буцаан татах боломжгүй юм. "Frontier Security"-ийн гүйцэтгэх захирал Ярон Сингер: "Энэхүү явдалд холбогдсон загвар хэдийнээ нийтэд нээлттэй болсон. Хорлон сүйтгэгчид үүнд хандах боломжтой тул энэ явдал илүү асар том хохирол дагуулах аюултай" гэж мэдэгдэв.

Зарим шинжээчид эдгээр тохиолдлыг хиймэл оюуны хакердах чадамжийг харуулсан "албан бус туршилт" гэж үзэж байна. "Hugging Face" платформ руу нэвтэрсэн тохиолдлын талаар "OpenAI": -"Энэ бол кибер чадамжийн хүрээнд урьд өмнө байгаагүй үйл явдал боллоо" хэмээгээд "Онолын хувьд батлагдсан чадварууд бодит ертөнцөд ч ажилладаг болохыг харууллаа" гэжээ. Хиймэл оюун бусдын серверт нэвтрэх нь аюулгүй байдлын эрсдэл дагуулдаг ч нөгөө талаас байгууллагын хэрэглэгчдэд сурталчлах "аюулгүй байдлын чадамжийн" нотолгоо болж өгдөг байна.