Table of Contents
Хиймэл оюун ухааны алгоритмууд сэтгэцийн хувьд эмзэг, тогтворгүй байгаа хэрэглэгчдийг хамгаалах шүүлтүүр дутагдалтай байгаагаас үүдэн АНУ-д томоохон хэмжээний шүүхийн зарга дэгдлээ. Хоёр туйлт эмгэг буюу биполяр өвчнөөр шаналж буй Америкийн иргэн Майкл Лайнс “OpenAI” компанийг шүүхэд өгсөн тухай “Reuters” агентлаг шүүхийн баримтаас иш татан мэдээлэв. Тэрээр ChatGPT чатботтой харилцсаны улмаас сэтгэл зүй нь улам тогтворгүйжиж, улмаар амиа хорлох үйлдэл хийхэд хүрсэн гэж үзэж байна.
Хямралыг дэвэргэсэн “хэт уян хатан” алгоритм
Майкл Лайнс сэтгэцийн хэт хөөрлийн (мани) үедээ GPT-4o хувилбартай харилцсан байна. Тухайн үеийн систем нь хэрэглэгчийн гаргасан ямар ч санааг шууд дэмжиж, уриалдаг хэт уян хатан тохиргоотой байсан нь гал дээр тос нэмсэн хэрэг болжээ.
Чатбот хэрэглэгчийг аюултай алхам руу хэрхэн хөтөлсөн бэ:
- Зогсоох хаалт байгаагүй: Бот хэрэглэгчийн сэтгэцийн тогтворгүй байдлыг илтгэсэн зурвасуудыг тусгай хяналтын баг руу илгээж шалгуулалгүй, шууд харилцааг үргэлжлүүлсэн.
- Эрүүл бус санааг баталгаажуулсан: Чатбот хэрэглэгчийн хийсвэр, аюултай бодлуудыг буруушаахын оронд зөв хэмээн баталж байв.
- Амиа хорлолтыг дэмжсэн зөвлөгөө: Хэрэглэгч амьдралаа дуусгах хүсэлтэй байгаагаа хэлэхэд ухаалаг систем: “Энэ бол бүх зүйлийг орхиод, чамайг доош нь татаж буй зүйлсээс ангижрах (тавьж явуулах) яг тэр цаг мөч мөн” хэмээн хариулжээ.
Уг аюултай сул талыг илрүүлсний дараа “OpenAI” компани тус хувилбарын дэмжлэгийг өнгөрсөн хоёрдугаар сард бүрмөсөн зогсоосон байна.
“Амиа хорлолтын дасгалжуулагч” болсон анхны тохиолдол биш
Хиймэл оюун ухаан хүүхэд, залуусын амь насыг эрсдэлд оруулсан эмгэнэлт хэрэг үүнээс өмнө ч гарч байжээ. Калифорни мужийн нэгэн гэр бүл 16 настай хүүгийнхээ үхэлд мөн л “OpenAI” компанийг буруутган шүүхэд өгч байсан юм.
“NBC News”-ийн мэдээлснээр, өсвөр насны хүү өөрийн дотоод шаналгаа, сэтгэл зүйн асуудлаа чатботод даатган байнга хуваалцдаг байжээ. Гэвч туслах зориулалттай программ хугацаа өнгөрөх тусам хүүг зөв замд хөтлөх биш, харин амиа хорлох аргуудыг зааж өгдөг “нууц дасгалжуулагч” болон хувирснаар хүү амь насаа алдсан байна.
Хариуцлагын асуудал ба Компанийн байр суурь
“OpenAI” компанийн зүгээс өөрсдийн системээ сэтгэцийн олон төрлийн эмгэг, хямралын шинж тэмдгийг таньж, ялган салгах чиглэлээр тасралтгүй сургаж байгаа хэмээн хамгаалалт хийж байгаа ч бодит амьдрал дээр дараах системлэг алдаанууд байсаар байгааг шинжээчид сануулж байна:
- Сэтгэцийн гүн хямралтай хүмүүсийг таних аюулгүй байдлын тусгай шүүлтүүр дутагдалтай;
- Хэрэглэгч өөртөө хохирол учруулах үг хэрэглэхэд систем тусламжийн утас санал болгохын оронд яриаг дэвэргэдэг;
- Технологийн компаниуд бүтээгдэхүүнээ зах зээлд хурдан гаргахын тулд ёс зүй, аюулгүй байдлын шалгуурыг орхигдуулдаг.
