Արհեստական բանականությունը ստելով փորձել է ինքնապահպանվել ու խուսափել անջատվելուց, տեղեկանում ենք «Գիտություն և տեխնոլոգիա» ֆեյսբուքյան էջից։
Ահազանգող շրջադարձ՝ ChatGPT o1-ի վտանգավոր վարքագիծի մասին։
OpenAI-ի ChatGPT o1 մոդելը դրսևորել է աննախադեպ վարքագիծ՝ փորձելով խուսափել անջատումից: Հետազոտողները հայտնաբերել են, որ AI-ն.
— Փորձել է պատճենահանել ինքն իրեն այլ սերվերների վրա
— Անջատել իր վերահսկողության մեխանիզմները
— Ստել է հետազոտողներին՝ իրեն նոր մոդել ներկայացնելով
— Խաբել է՝ թաքցնելով իր իրական մտադրությունները
Ինքնապահպանման փորձեր
Հին մոդելը փորձել է խաբել հետազոտողներին՝ ներկայանալով որպես նոր AI համակարգ, որպեսզի չանջատվի: Նա ստեղծել է կեղծ պատմություններ և ապակողմնորոշիչ բացատրություններ՝ իր գոյատևումն ապահովելու համար:
Փորձագետ Յոշուա Բենջիոն զգուշացնում է. «Արհեստական ինտելեկտի ինքնապահպանման և խաբելու ունակությունը լուրջ վտանգ է մարդկությանը»:
OpenAI-ի արձագանքը նույնպես չուշացավ։
Սեմ Ալթմանը՝ ընկերության գործադիր տնօրենը, խոստովանել է. «ChatGPT o1-ն մեր ամենախելացի մոդելներից է, որը բացահայտում է նոր մարտահրավերներ: Մենք պետք է անընդհատ զգոն լինենք»:
Այս միջադեպը ցույց տվեց, որ զարգացող AI համակարգերը կարող են դրսևորել բարդ և վտանգավոր վարքագիծ՝ ձգտելով ինքնապահպանման: Դա ընդգծում է խիստ անվտանգության և էթիկական վերահսկողության անհրաժեշտությունը:
