Brytyjski rząd zapowiedział przeznaczenie 100 mln funtów na utworzenie krajowego laboratorium bezpieczeństwa biologicznego wspieranego przez sztuczną inteligencję. Projekt ma pomóc w wykrywaniu i ograniczaniu nowych zagrożeń, w tym takich, które mogą powstać przy wykorzystaniu zaawansowanych narzędzi AI. Dodatkowe wsparcie zadeklarowały OpenAI i Anthropic — firmy przekażą łącznie 200 mln funtów w formie kredytów na korzystanie ze swoich modeli.
Laboratorium do walki z zagrożeniami biologicznymi
Nowa placówka ma być, według zapowiedzi władz, pierwszą tego typu instytucją na świecie. Szczegóły dotyczące jej działalności nie zostały jeszcze przedstawione, ale brytyjski minister ds. sztucznej inteligencji Kanishka Narayan określił ją jako ośrodek skupiający czołowych ekspertów naukowych. Laboratorium ma wspierać ochronę kraju przed różnymi niebezpieczeństwami, od ataków cybernetycznych po ryzyka biologiczne.
Inwestycja jest częścią szerszego planu modernizacji brytyjskich zabezpieczeń. Rząd podkreśla, że chce rozwijać AI w sposób, który jednocześnie wspiera gospodarkę, chroni interesy państwa i nie pozostawia pracowników w tyle. Władze liczą również na wzmocnienie krajowego zaplecza naukowego i przemysłowego oraz powstanie nowych miejsc pracy wymagających specjalistycznych umiejętności.
Rozwój AI wymaga równoczesnego inwestowania w innowacje i bezpieczeństwo. Nowe laboratorium ma pomóc lepiej przygotować się na zagrożenia biologiczne. Skuteczność tych działań będzie zależeć także od współpracy rządu, naukowców i firm technologicznych.
AI może pomagać zarówno obrońcom, jak i napastnikom
Rozwój sztucznej inteligencji przynosi korzyści badaczom, ale może też ułatwiać tworzenie nowych zagrożeń. Liderzy branży ostrzegają, że zaawansowane modele mogą zostać wykorzystane przez niepowołane osoby, a ryzyko obejmuje między innymi rozwój niebezpiecznych zagrożeń biologicznych. Samodzielne działania firm technologicznych mogą nie wystarczyć — potrzebna jest szersza współpraca nauki, biznesu i instytucji publicznych.
Podobne obawy wyrażają przedstawiciele Google DeepMind, zwracając uwagę na możliwe zagrożenia biologiczne i nuklearne w miarę wzrostu możliwości systemów AI. Ich zdaniem przygotowania i działania zabezpieczające powinny rozpocząć się odpowiednio wcześnie.
Zobacz także: Five Eyes ostrzega przed wykorzystywaniem AI do cyberataków. Eksperci zwracają uwagę, że rozwój AI może zwiększać skalę zagrożeń cyfrowych.
Nowe środki na cyberbezpieczeństwo
W budżecie przewidziano także dodatkowe finansowanie dla brytyjskiego Instytutu Bezpieczeństwa AI. Ośrodek, który bada ryzyka związane z najbardziej zaawansowanymi modelami, otrzyma 120 mln funtów.
Kolejne 60 mln funtów ma wesprzeć utworzenie Narodowej Tarczy Cybernetycznej — systemu wykorzystującego AI do wzmacniania obrony kraju. Rząd przeznaczy też 70 mln funtów na centrum monitorowania zagrożeń i podatności, które ma pomagać w wykrywaniu luk w krytycznych elementach infrastruktury oraz gospodarki.
Znaczenie takich działań pokazują niedawne badania nad poważną luką w PHP, języku wykorzystywanym przez wiele serwisów internetowych. Odkrycie podatności przypisano badaczowi z firmy Calif, który poinformował, że w analizie pomogły mu narzędzia OpenAI. To przykład, jak AI może przyspieszać wykrywanie błędów — ale zarazem przypomnienie, że podobne możliwości mogą wykorzystać również cyberprzestępcy.
To może wreszcie pozwoli na sensowne red-teamowanie modeli na poziomie państwowym, a nie tylko w ramach PR-raportów. Kredyty od OpenAI/Anthropic to fajna doraźna pomoc, ale kluczowe będzie jak będą wyglądać zasady dostępu, logowania i niezależnego audytu wyników.
Za dużo „kredytów” i za mało pieniędzy na niezależne procedury audytu. Jeśli laboratorium będzie polegać na usługach komercyjnych dostawców, to mamy ryzyko vendor lock-in i konfliktu interesów — kto będzie miał ostatnie słowo przy publikacji wyników i ujawnianiu podatności?
Z technicznego punktu widzenia takie przedsięwzięcie jest sensowne, ale wymaga konkretnych rozwiązań: łańcucha dowodu pochodzenia danych (data provenance), pełnych audit logów, mechanizmów ograniczających access tokeny, i testów regresji pod kątem model drift. Sama możliwość uruchamiania modeli z kredytów nie rozwiąże problemu latency/throughput przy analizie dużych zbiorów genomowych ani kwestii fałszywych alarmów (precision vs recall) — to trzeba zaprojektować od podstaw.
Miałam okazję pracować przy projekcie, gdzie AI pomagało w wykrywaniu anomalii w sekwencjach — faktycznie przyspieszało robote, ale bez dobrego zestawu walidacyjnego i ekspertów końcowe wyniki byly bezużyteczne. Dodatkowo kwestie prywatnosci i przechowywania probek to koszmar, jesli nie uregulują jasnych zasad. (tak, czasem robię literówki — sorry)
Kilka pytań do autora i innych komentujących: czy te kredyty obejmują dostęp do pełnych modeli z możliwością fine-tuningu, czy tylko API inference? Kto będzie właścicielem i przechowywał logi z analiz — rząd czy dostawcy? Planowane są jakieś standardy audytu lub niezalezny panel ekspertów?
Krytyka o „kredytach zamiast kasy” jest zasadna, ale nie róbmy z tego od razu spisku. Dla wielu instytucji dostęp do topowych modeli w formie kredytów to jedyna realna opcja testów na dużą skalę. Z drugiej strony zgoda — musi być jasna polityka transparentności, ograniczenia dostępu i publiczne raporty z red-teamów; bez tego to będzie kolejna akcja PR firm technologicznych.