Илон Маск, Apple-ийг үндэслэгчдийн нэг Стив Возняз нарын хиймэл оюун ухааны технологи боловсруулалтын  салбарын тэргүүлэгчид аюулгүй байдлыг найдвартай хангах боломжтой болох хүртэл хиймэл оюун ухааны технологийн хөгжүүлэлтийг түр зогсоохыг уриалжээ. Ирээдүйн амьдралын хүрээлэн нийтлэж, мангя гаруй бизнесмен, шинжээчид гарын үсэг зурсан нээлттэй захидалд тэд ийнхүү уриалсныг ВВС агентлаг дамжуулсан байна.

Шинэ, өнөөгийн хамгийн дэвшилтэт чат бот болох GPT-4-ийг OpenAI судалгааны лаборатори нээснээс ердөө хоёрхон долоо хоногийн дараа тэд ийм уриалга гаргалаа. Тэд энэ уриалгадаа GPT-4 чат ботоос илүү хүчирхэг систем гаргахад хагас жилийн хязгаарлалт тавихыг санал болгожээ.

Энэ захидалд OpenAI -ийг үндэслэгч Сэм Альтаны үгийг иш татсан бөгөөд тэрбээр "хэзээ нэгэн цагт шинэ системийг сургаж эхлэхээс өмнө хараат бус үнэлгээг хийх шаардлагатай болно" хэмээсэн аж.

"Бид үүнтэй санал нэг байна. Одоо тэр шаардлагатай үе нь ирчихсэн. Хүчирхэг хиймэл оюун ухааныг хэрэглэснээс үүдэх үр дагавар эерэг, харин түүнээс үүдэх эрсдэлийг хянаж болно гэдэгт итгэлтэй байгаа үедээ л хүчирхэг хиймэл оюун ухааныг боловсруулах ёстой" хэмээн нээлттэй захидалд гарын үсэг зурсан шинжээчид онцолжээ.

Хиймэл оюун ухаан ямар эрсдэл дагуулах вэ?

Энэ нээлттэй захидалд нийгэм болон соёл иргэншилд учруулж болохуйц эрсдэлүүдийг дурджээ. Шинжээчдийн үзэж байгаагаар хиймэл оюун ухаан дээр суурилсан системүүд нь хүмүүстэй өрсөлдөж магадгүй бөгөөд энэ нь эдийн засаг болон улс төрийн тэсрэлтэд хүргэх аж. 

Нээлттэй захидалд гарын үсэг зурсан хүмүүсийн үзэж байгаагаар хүн төрөлхтөн дараах дөрвөн чухал асуултыг өөртөө тавих ёстой гэнэ. 

 

"Машинууд бидний мэдээллийн сувгуудыг суртал ухуулга, худал хуурмагаар дүүргэхийг бид зөвшөөрөх ёстой юу?"

"Хүмүүст таашаал өгдөг зэрэг бүхий л ажлыг бид автомат машинд шилжүүлж өгөх ёстой юу?

"Ирээдүйд тоо болон оюуны чадвараар биднийг гүйцэж түрүүлж, биднийг үнэ цэнгүй болгож, биднийг орлож мэдэх хиймэл оюун ухааныг бид хөгжүүлэх ёстой юу?"

"Бид соёл иргэншлийнхээ хяналтыг алдах эрсдэл гаргах ёстой юу?"

Хиймэл оюун ухааны салбарын шинжээчид, төлөөлөгчдийн үзэж байгаагаар аюулгүй байдлыг хангах систем бүтээхэд зургаан сарын хугацаа хангалттай гэнэ. Энэ хугацаанд ямар нэг компани энэ хязгаарлалтыг хэрэгжүүлэх шаардлагыг биелүүлэхгүй бол дэлхийн улс орны засгийн газрууд хөндлөнгөөс оролцохыг шинжээчид уриалжээ.

Нээлттэй захидал бичсэн хүмүүс нь хиймэл оюун ухааны технологийн хөгжил хяналтгүй байгаад болгоомжилж байгаагаа илэрхийлсэн анхны хүмүүс биш юм.

ChatGPT зэрэг дэвшилтэт технологийг хэрэглэснээс үүдэх ёс зүйн болон хуульзүйн үр дагавартай холбоотойгоор санаа зовниж байгаагаа Европын холбооны цагдаагийн хэсэг болох Европол илэрхийлсэн бөгөөд эдгээр систем нь цахим гэмт хэрэг, хуурамч мэдээлэл тараах зэргээр төрөл бүрийн цахим луйвар хийхэд ашиглагдаж болзошгүйг өнгөрсөн даваа гарагт анхааруулж байв.

"Хиймэл оюун ухаан асар их боломжийг нээж, бид бүгдэд сайхан ирээдүйг бүтээхэд жинтэй хувь нэмэр оруулж чадна гэдгийг хүн бүр л ойлгож байгаа. Гэхдээ үүнтэй холбоотой эрсдэлүүдийг мартаж болохгүй. Хэт хамаарал, хуурамч мэдээлэл, тархи угаалт гарч болзошгүй, тиймээс эдгээр технологид хяналт тавих ёстой" хэмээн хувийн мэдээллийг хамгаалах салбарын мэргэжилтэн Ивана Бартолетти ВВС агентлагт ярьжээ.

Энд дуулгахад, ChatGPT чат бот нь хэрэглэгч амьд хүнтэй харилцаж байгаа мэт сэтгэгдэл төрөхүйц байдлаар хариултаа боловсруулдаг байна. Мөн энэ чат бот хэл ярианы төрөл бүрийн хэв маягийг ашиглах чадвартай аж. Харин энэ чат ботыг боловсруулагчдын анхааруулж байгаагаар, 2021 оноос хойш энэ системийн мэдлэгийн санг шинэчлээгүй тул ChatGPT нь 2021 оноос хойш болсон үйл явдал, үзэгдлийн талаарх хязгаарлагдмал төсөөлөлтэй, түүнчлэн зарим үед хиймэл оюун ухаан "хий юм төсөөлж" болзошгүй, өөрөөр хэлбэл бодит байдалд үл нийцэх хариулт өгөх, эсвэл логик алдаа гаргах магадлалтай гэнэ. 

Г.Бямбасүрэн