Britanska vlada preimenovala je AI Safety Institute u AI Security Institute, naglašavajući fokus na ozbiljne sigurnosne prijetnje povezane s umjetnom inteligencijom, poput kibernetičkih napada, razvoja biološkog oružja i kriminalnih aktivnosti. Ministar za znanost, inovacije i tehnologiju Peter Kyle istaknuo je kako je cilj Instituta zaštita nacionalne sigurnosti i građana od potencijalnih zlouporaba AI-ja.
Ključni partner u novom smjeru Instituta je Anthropic, američka tvrtka specijalizirana za razvoj sigurnih AI sustava, poznata po svom naprednom AI asistentu Claude. Claude koristi tehnike dubokog učenja za obradu prirodnog jezika i pružanje naprednih rješenja za analizu podataka. Anthropic se fokusira na sigurnost i odgovoran razvoj AI-ja te surađuje s vladama i privatnim sektorom kako bi osigurala sigurno korištenje AI tehnologija.
Posebna jedinica za kriminalnu zlouporabu istraživat će načine sprječavanja korištenja AI-ja za stvaranje ilegalnih sadržaja, poput slika zlostavljanja djece, uz suradnju s Ministarstvom unutarnjih poslova. Institut će surađivati s Nacionalnim centrom za kibernetičku sigurnost, Ministarstvom obrane te privatnim sektorom kako bi osigurao da razvoj naprednih AI sustava bude usmjeren na očuvanje demokratskih vrijednosti i sigurnost građana.
Predsjednik AI Security Institute-a Ian Hogarth izjavio je kako je primarni cilj zaštita javnosti od visokorizičnih AI prijetnji, dok je izvršni direktor Anthropica, Dario Amodei, naglasio potencijal umjetne inteligencije za transformaciju javnih usluga kroz odgovoran razvoj.