AI-system kan vara säkra eller osäkra beroende på hur de är utformade och hur de används. Precis som med andra teknologier finns det risker och potentiella faror med AI. Till exempel kan en felaktigt utformad eller felaktigt tränad AI orsaka skada eller felaktiga beslut.
För att säkerställa säkerheten i AI-system är det viktigt att vidta lämpliga åtgärder för att minska risken för oavsiktliga eller avsiktliga skador. Detta kan inkludera att implementera säkerhetsprotokoll, genomföra omfattande tester och validering, och begränsa åtkomsten till systemet till behöriga användare.
Övervakning av AI system av mänskliga tekniker kan vara en lösning.
Det är också viktigt att tänka på de potentiella sociala och etiska konsekvenserna av AI-teknologier och att arbeta för att minimera negativa effekter. Med rätt användning och säkerhetsåtgärder kan AI-teknologi vara en tillförlitlig och säker resurs.
Övervakning som använder AI kan leda till frågor som rör privatlivet för användare. När dagens samhälle blir mer digitalt som när man ska besöka en vän och det inte finns en parkerings automat tillgänglig och enda möjligheten att betala för att parkera sin bil är att använda en App som man måste installera på sin mobil. Vad vet en standard användaren om vad appen gör på mobilen och vad för typ av information som skickas till förtagen servrar.
Om AI använd så kan rörelsemönster enkelt skapas med enkla sökningar. Det kan vara en bra ide om man påpekar att det är för att förebygga brott. Men generellt sett så blir det mycket mer övervakning av medborgare. Den etiska frågan är om det bra eller dåligt.