Allt flyter på i ditt AI-arbetsflöde – tills en ny vecka startar och den amerikanska AI-modellen plötsligt sätter sig på tvären och vägrar utföra uppgifter som fungerade felfritt förra månaden.
När vännen Mållgan, som är lite av en “security geek”, gjorde DNS-granskningar mot sina egna domäner stoppades de plötsligt som “otillåten nätverksspaning”, och defensiv kodgranskning efter minnesläckor blockerades som otillåten “vulnerability scanning”.
Ironin i det hela var att modellen i ett fall gav kommandona men vägrade att trycka enter …
Mållgan bytte snabbt bort den amerikanska AI-modellen och kunde fortsätta.
I fallet med AI-modellerna från Anthropic så drogs de tillbaka helt i juni efter beslut från amerikanska regeringen.
Det jag lärde mig är:
- Det en AI-modell förbjuder tillåter en annan AI-modell – gissa vilken dina eventuella angripare kommer att använda?
- Fokusera på att undersöka svenska eller europeiska leverantörer av AI som Berget.AI.
- Kontinuerligt utvärdera AI-modeller, och den utvärderingen måste vara automatiserad.
- Byte av leverantör och modell behöver vara enkelt, automatiserat och testat (DORA).
Har du märkt av att dina AI-verktyg plötsligt blivit “handikappade” över en natt?
— Andreas, Staff Architect
