Главният изпълнителен директор на Anthropic призова за забавяне на развитието на изкуствения интелект
Главният изпълнителен директор на компанията за изкуствен интелект Anthropic Дарио Амодей призова AI индустрията да забави темпото на развитие на технологията и да предприеме по-строги мерки за контрол на рисковете. В есе, публикувано през уикенда, Амодей заявява, че индустрията твърде дълго е подценявала опасностите, свързани с развитието на все по-мощни системи за изкуствен интелект.
„Твърде дълго индустрията лъжеше хората за факта, че тази технология крие рискове“, пише Амодей.
Призивът му идва след предупреждения на бившия изследовател на Anthropic Джейкъб Коксън, който обвини Anthropic и OpenAI, че „играят на рулетка с живота ни“. Според Коксън развитието на изкуствения интелект може да създаде екзистенциална заплаха за човечеството. Той сравнява потенциалния сценарий с филмите от поредицата „Терминатор“ и предупреждава, че AI може да стане достатъчно интелигентен, за да унищожи хората.
Амодей не подкрепя пълна забрана на развитието на изкуствения интелект, но смята, че компаниите трябва да действат съвместно, за да ограничат темпото на напредъка. По думите му това трябва да включва по-строги тестове на моделите, преди те да бъдат пускани за широко използване.
„Трябва да гарантираме, че всяко поколение модели, което пускаме, е правилно тествано“, посочва той.
Като част от мерките Anthropic възнамерява да предостави на независими оценители постоянен достъп до своите модели, подобен на достъпа на служители в компанията. Целта е външни експерти да могат да проверяват доколко системите спазват поетите ангажименти за безопасност.
Амодей подкрепя и по-строга федерална регулация на изкуствения интелект. Сред обсъжданите законодателни идеи са ограничения върху развитието на свръхинтелигентни системи, както и задължителен механизъм за спиране на AI при възникване на сериозен риск.
„Превключвателят за изключване на AI може да е добра идея“, пише ръководителят на Anthropic, като същевременно отхвърля идеята за цялостна забрана на технологията.
На международно ниво Амодей посочва договорите за контрол на ядрените оръжия между САЩ и бившия Съветски съюз като възможен модел за бъдещи споразумения между държавите относно развитието на изкуствения интелект. Според него международното сътрудничество може да помогне за ограничаване на най-опасните форми на технологичен напредък.
„Ако изградим технологията по правилния начин, смятам, че вероятността да се случи нещо лошо е много ниска. Ако я изградим по грешния начин, вероятността да се случи нещо лошо е много висока“, заключава Амодей.
Призивът на ръководителя на Anthropic подчертава нарастващото напрежение между стремежа на водещите AI компании към по-мощни модели и предупрежденията за потенциалните последици от неконтролираното развитие на технологията.
