Хиймэл оюун ухааны системүүд улам хүчирхэг, бие даасан болж, тэдгээрийг зохицуулах байгууллагуудын хариу үйлдэл хийх хурдаас ч түрүүлэн хөгжиж болзошгүй талаар OpenAI компанийн ерөнхий захирал Сэм Альтман анхааруулжээ.
Тэрээр НҮБ-ын Аюулгүйн Зөвлөлийн хиймэл оюун ухааны асуудлаарх хуралдаанд үг хэлэхдээ AI технологийн чадавх нэмэгдэхийн хэрээр эрх мэдэл цөөн тоглогчийн гарт төвлөрөх, мөн хүмүүс бүрэн ойлгож эсвэл хянаж чадахгүй шийдвэрийг системүүд гаргах эрсдэл үүсэж байгааг онцолсон байна.
Өөрийгөө сайжруулах чадвар эрсдэлийг нэмэгдүүлж магадгүй
Альтманы хэлснээр хиймэл оюун ухааны системүүд өөрийнхөө дараагийн хувилбаруудыг боловсруулах, сайжруулах үйл явцад улам их оролцох боломжтой болж байгаа нь аюулгүй байдлын асуудлыг шинэ түвшинд авчирч байна.
Тэрээр:
“Хиймэл оюуны системүүд өөрсдийгөө болоод ирээдүйн хувилбаруудаа өөрсдөө сайжруулах чадвартай болж байгаа энэ үед хиймэл оюун ухааны аюулгүй байдлын асуудалд анхаарал хандуулах нь улам чухал болж байна.”
гэжээ.
AI системийг хөгжүүлэх болон сургах ажлын зарим хэсэг автоматжих тусам технологийн дэвшлийн хурд огцом нэмэгдэх боломжтой гэж тэр үзсэн байна. Ийм нөхцөл нь хөгжүүлэгчид болон зохицуулагчдаас илүү өндөр түвшний болгоомжлол шаардана гэжээ.
Улс орон, олон улсын байгууллагууд хоцорч болзошгүй
Хиймэл оюун ухаан бие даан ажиллах чадвар нэмэгдэхийн хэрээр технологийн хөгжил төрийн байгууллага болон олон улсын зохицуулалтын тогтолцоог түрүүлж болзошгүйг Альтман онцолсон байна.
Түүний байр сууринаас үзвэл хамгийн хүчирхэг AI загваруудыг зөвхөн техникийн боломж байгаагаар нь сургах бус, хүн төрөлхтөн тэдгээрийг хяналтдаа байлгаж чадах эсэхийг урьдчилан тооцох шаардлагатай аж.
Тэрээр:
“Хүмүүс хяналтдаа байлгаж чадна гэсэн баттай үндэслэл үгүй тохиолдолд хиймэл оюун ухааны загваруудыг сургах ёсгүй. Энэ бол болзошгүй эрсдэлүүдийн нэг.”
гэж мэдэгдсэн байна.
Эрх мэдэл цөөн хүний гарт төвлөрөхөөс сэрэмжлүүлэв
Сэм Альтман зөвхөн техникийн аюулгүй байдлаас гадна AI-тай холбоотой улс төр, эдийн засгийн эрх мэдлийн төвлөрлийг эрсдэлийн нэг гэж нэрлэжээ.
Тэрээр:
“Эдгээр систем нь цөөн тооны хүмүүсийн гарт эрх мэдлийг хэт төвлөрүүлэхэд хүргэж болзошгүй байгаа нь бас нэг аюул юм”
гэж онцолсон байна.
Иймээс өндөр хүчин чадалтай хиймэл оюун ухааны системийг хөгжүүлж буй компаниуд тэдгээрийн ажиллагаанд хатуу хяналт тавьж, маш бага магадлалтай байсан ч гамшгийн хэмжээний үр дагавар үүсгэх эрсдэлийг үл тоомсорлож болохгүй гэж үзжээ.
“Нэг ч хүн, компани, улс AI-г үзэл бодлоо тулгахад ашиглах ёсгүй”
Альтман хиймэл оюун ухааны хамгийн хүчирхэг загваруудыг улс төр, үзэл суртал эсвэл бусад ашиг сонирхлыг бусдад тулгахад ашиглаж болохгүй гэсэн байр суурь илэрхийлсэн байна.
Түүний хэлснээр нэг хүн, нэг компани эсвэл нэг улс орон бусдад өөрийн үзэл бодлыг тулгахын тулд өндөр хүчин чадалтай AI систем ашиглах нь хүлээн зөвшөөрөх боломжгүй эрсдэл бий болгоно.
Ингэснээр хиймэл оюун ухааны дараагийн үе шатанд зөвхөн технологийн хурд бус, хүний хяналт, аюулгүй ажиллагаа болон эрх мэдлийн тэнцвэр гэсэн асуудлууд зэрэгцэн тавигдах шаардлагатай байгааг тэр НҮБ-ын индрээс онцолжээ.
