Ўзбекистон, Тошкент - Batafsil.uz. СИнинг жадал ривожланиши яқин келажакда инсоният олдида жиддий хавфларни юзага келтириши мумкин. Улардан бири инсоннинг сунъий интеллект устидан назоратини йўқотиши бўлса, иккинчиси ҳаддан ташқари катта ҳокимиятнинг бир шахс, компания ёки давлат қўлида тўпланишидир.
Бу ҳақда OpenAI раҳбари Сэм Альтман ўзининг X ижтимоий тармоғида ёзди.
Огоҳлантириш сунъий интеллект хавфсизлиги борасида хавотирлар кучайиб бораётган бир пайтда янгради. Аввалроқ Альтман OpenAI 2026 йилда биржага чиқмаслигини билдириб, мавжуд хавфлар фонида бундай қарорни қабул қилиш оқилона эмаслигини айтганди. У, шунингдек, OpenAI ва бошқа етакчи ИИ компаниялари хавфларни камайтириш учун технология ривожини секинлаштириш ва ҳамкорлик қилиш бўйича келишувга эришиши мумкинлигини таъкидлаган. Альтманнинг фикрича, ИИ аср охиригача эмас, балки ўн йиллик охирига қадар инсониятнинг йўқ бўлиб кетишига олиб келиш эҳтимоли ҳатто 10 фоиз бўлса ҳам, бу қабул қилиб бўлмайдиган даражадаги хавфдир.
Унинг таъкидлашича, сунъий интеллект ривожи инсоният назоратидан чиқиб кетиши мумкин бўлган сценарийга йўл қўйиб бўлмайди. Альтман СИ ҳар доим инсонларга хизмат қилиши кераклигини таъкидлаб, моделларнинг имкониятлари ривожидан хавфсизлик ва уларни инсон манфаатларига мослаштириш усуллари ортда қолмаслиги зарурлигини айтди.
"Биз инсоният келажаги тарафида ҳеч қандай муросасиз турибмиз ва сунъий интеллект ҳар доим инсонларга хизмат қилиши керак", деб ёзди у.
Альтман қайд этган иккинчи хавф эса сунъий интеллект устидан назоратнинг жуда кам сонли қўлларда тўпланиши билан боғлиқ. Агар ўта кучли СИ бир шахс ёки компания ихтиёрида қолса, ундан бутун жамиятга муайян дунёқарашни мажбуран сингдириш учун фойдаланиш мумкин.
Альтман бундай ҳолат жамият учун жуда хавфли ва қўрқинчли оқибатларга олиб келиши мумкинлигини айтди. Шунингдек, ҳаддан ташқари катта таъсир бирор давлат ёки сунъий интеллектни ривожлантираётган битта лаборатория қўлида ҳам тўпланиши мумкин.
Шу сабабли инсоният сунъий интеллектни ривожлантириш ва уни назорат қилиш ўртасида нозик мувозанатни сақлаши керак. Яъни технология имкониятлари қанчалик тез ўсса, унинг хавфсизлиги ва инсон назорати механизмлари ҳам шунчалик тез ривожланиши зарур.
Бундай хавфлар энди фақат фантастик фильмлар сюжети эмас. Автоном сунъий интеллект тизимлари аллақачон мураккаб вазифаларни инсоннинг доимий аралашувисиз бажара олади. Бу эса уларнинг имкониятлари янада кенгайган сари инсон назорати масаласини тобора долзарб қилиб бормоқда.
Аввалроқ OpenAI томонидан ўтказилган синовлар вақтида сунъий интеллект агентининг Hugging Face платформаси инфратузилмасига нисбатан мустақил ҳужум қилгани ҳақида хабар қилгандик. Ўшанда СИ агенти изоляция қилинган муҳит чегараларидан чиқиш имкониятига эга бўлган ва шубҳали фаолликни мутахассислар аниқлаб, уни тўхтатганди.
Энди сунъий интеллект ривожи билан боғлиқ асосий савол фақат "СИ яна қанчалик ақлли бўлади?" эмас. Энг муҳими — унинг имкониятлари инсон назоратидан ошиб кетишидан олдин хавфсизлик механизмларини яратишга улгурамизми?
Изоҳлар мавжуд емас