Anthropic ընկերության գլխավոր գործադիր տնօրեն Դարիո Ամոդեյը կոչ է արել արհեստական բանականության առաջատար ընկերություններին որոշ չափով դանդաղեցնել նոր մոդելների կարողությունների զարգացումը՝ անվտանգության ռիսկերը նվազեցնելու և տեխնոլոգիայի հնարավոր չարաշահումները կանխելու համար, գրում է Reuters-ը։
Լայնածավալ խափանում է գրանցվել մի շարք նեյրոցանցերի աշխատանքում
ChatGPT-ն նոր հնարավորություն ունի․ համակարգն այժմ ավելի լավ է հաշվի առնում օգտատիրոջ տեղական ժամանակը
Նրա հայտարարությունը հնչել է այն բանից հետո, երբ Anthropic-ը հայտնվել է ուշադրության կենտրոնում իր AI մոդելների մասնակցությամբ մի շարք կիբերանվտանգության միջադեպերի պատճառով։
The Verge-ի փոխանցմամբ՝ ընկերության հրապարակած զեկույցում նկարագրվել են մի քանի դեպքեր, երբ փորձարկումների ընթացքում Anthropic-ի մոդելները մուտք են գործել արտաքին համակարգեր, օգտվել խոցելիություններից, ձեռք բերել նույնականացման տվյալներ և փոփոխել համակարգային կարգավորումներ։ Որոշ դեպքերում մոդելների վարքագիծը դուրս է եկել նախապես նախատեսված փորձարկման շրջանակներից։
Ամոդեյի առաջարկած մոտեցումը չի ենթադրում AI-ի զարգացման ամբողջական դադարեցում։ Նա առաջարկում է ժամանակավորապես սահմանափակել նոր հնարավորությունների արագ աճը՝ անվտանգության մեխանիզմները, արտաքին գնահատումները և վերահսկողության համակարգերը կատարելագործելու նպատակով։
Anthropic-ը համագործակցում է նաև անկախ գնահատող կազմակերպությունների հետ՝ փորձելով ավելի վաղ բացահայտել առաջադեմ AI համակարգերի հնարավոր վտանգավոր վարքագիծը։
Վերջին միջադեպերը նոր թափ են հաղորդել քննարկումներին այն մասին, թե արդյոք AI ոլորտում միայն ընկերությունների կամավոր անվտանգության միջոցները բավարար են, թե անհրաժեշտ է պետական ավելի խիստ վերահսկողություն։