Ўзбекистон, Тошкент - Batafsil.uz. OpenAI компанияси ўзининг тадқиқот инфратузилмасида ишлаётган сунъий интеллект моделлари ва агентларини хавфсизликка таҳдид юзага келган тақдирда тезкор тўхтатиш имконини берувчи Control Room тизимини яратди. Компания маълумотига кўра, тизим тўхтатиш буйруғи берилганидан кейин кўпи билан 35 сония ичида моделнинг янги натижалар яратишини чеклайди.
OpenAI нинг расмий маълумотига кўра, Control Room компаниянинг тадқиқот инфратузилмасидаги барча модел иш жараёнларини кузатиш ва бошқариш учун мўлжалланган. У моделларни ўқитиш, баҳолаш, маълумотларни қайта ишлаш ҳамда сунъий интеллект агентлари иштирокидаги бошқа тадқиқот жараёнларини қамраб олади.
Тизим алоҳида мониторинг механизмлари билан биргаликда ишлайди. Масалан, махсус монитор-модель бошқа сунъий интеллектнинг ҳаракатларини кузатиб, хавфли ёки белгиланган қоидаларга зид фаолиятни аниқласа, Control Room орқали тегишли жараённи тўхтатиш ҳақида сигнал бериши мумкин.
Шундан кейин моделнинг навбатдаги сўровлари блокланади ва у янги натижалар ярата олмайди. Бунда иш жараёнининг ўзи фаол қолиши мумкин, аммо моделдан янги натижа олиш имкони чекланади.
Компания таъкидлашича, тўхтатиш буйруғи билан модел натижаларини яратиш тўлиқ тўхташи ўртасидаги 35 сониялик кечикиш рухсатларни текширишдаги кешлаш механизми билан боғлиқ. OpenAI бу вақтни нолгача қисқартириш устида ишламоқда.
Control Room тизими бошқа инфратузилма қисмларида носозлик юз берган тақдирда ҳам ишлашга мўлжалланган. Ҳатто тизимнинг ўзи ишдан чиқса ҳам, у орқали назорат қилинадиган жараёнларда моделлардан янги натижа олишга рухсат берилмайди. Ҳозирча Control Room сунъий интеллектнинг ички тадқиқот инфратузилмасида қўлланилмоқда.
Компаниянинг таъкидлашича, ташқи фойдаланувчиларга хизмат кўрсатувчи моделлар инфратузилмаси алоҳида марказлаштирилган бошқарув тизимига эга ва зарурат туғилганда уларни ҳам тезкор тўхтатиш имконияти мавжуд.
Олдинроқ OpenAI компанияси ChatGPT фойдаланувчилари учун мулоқотлар махфийлигини оширувчи янги функция — чатларни блоклаш имкониятини ишга туширганди.
Изоҳлар мавжуд емас