Tekoäly helpottaa tietoturva-asiantuntijan elämää mutta tuo myös uusia vaatimuksia, kun tekoälypohjaiset sovellukset täytyy turvata. Millä lailla tietoturvariskit muuttuvat, kun myös hyökkääjät ottavat tekoälyn käyttöönsä?
Tietoturvan maailma on muuttunut viime vuosina, kun kyberhyökkäysten määrä on moninkertaistunut ja hyökkääjät ovat omaksuneet käyttöönsä yhä kehittyneempiä taktiikoita ja teknologioita. Samaan aikaan organisaatiot kehittävät tekoälypohjaisia ratkaisuja liiketoimintansa kasvun ja tuottavuuden nostamiseksi.
Generatiivinen tekoäly on raivannut tiensä jo tietoturvaankin, mutta valtaosa muutoksista rantautuu ammattilaisten arkeen vasta lähiaikoina, Microsoftin EMEA-alueen johtava tietoturvallisuuden neuvonantaja Sarah Armstrong-Smith uskoo.
Tietoturva-asiantuntija ymmärtää ohjelmistojen toimintalogiikan – mutta entä meitä ympäröivän tekoälyn vivahteet?
Armstrong-Smith jakaa tekoälyn vaikutukset tietoturvaan kolmeen osaan: itse tekoälyn turvallisuuteen, tekoälyn mahdollistamiin kyberhyökkäyksiin ja tekoälyn mahdollistamiin tietoturvatyökaluihin.
”Tietoturva-alan ammattilaiset ovat saattaneet työskennellä koko uransa Windowsin tai Microsoft-sovellusten parissa. Siksi he ymmärtävät mainiosti, kuinka tutut ohjelmistot toimivat ja kuinka tietoturvarikolliset voivat väärinkäyttää niitä. Sen sijaan moni ei vielä tiedä, kuinka tekoälypohjaiset ohjelmat toimivat. Oppiminen on kuitenkin vain ajan kysymys”, Armstrong-Smith sanoo.
Hänen mielestään suurin ero perinteisissä sovelluksissa ja generatiiviseen tekoälyyn perustuvissa sovelluksissa on nimenmukaisesti kyky luoda uutta. Tekoälysovelluksen parametrit ovat monimutkaisempia, jolloin sen tuottamat vastaukset ja lopputulokset lähentelevät ainutlaatuista.
Meneillään oleva tekoälymurros tarkoittaa, että sovelluksen kehitysvaiheessa testaamiseen täytyy suhtautua uudenlaisella tavalla. Jos hyökkääjä on esimerkiksi saastuttanut tekoälysovelluksen hyödyntämää lähdedataa, virheellisen datan vaikutukset voivat olla sovelluksen lopputuotoksissa hyvin vaikeasti havaittavia.
”Muun muassa takaisinmallintaminen ja red-team-testaus ovat suositeltavia tapoja arvioida, onko sovelluksen tuottamissa vastauksissa vikaa. Tekoälysovelluksen toimintalogiikka ja odotettavissa olevat tulokset täytyy kuitenkin tuntea ensin, jotta sovelluksen toimintaa ja sen tuottamien vastauksien syntyprosesseja voi arvioida”, Armstrong-Smith toteaa.
Lähdedatan saastuttamisen lisäksi hyökkääjä voi yrittää hyödyntää tekoälyn kouluttamisessa käytetyn datan tai ohjelmiston haavoittuvuuksia. Jos hyökkääjä pääsee vaikuttamaan sovelluksen parametreihin, sovellus voi alkaa tuottaa käyttäjilleen virheellisiä vastauksia. Hyökkääjä voi myös pyrkiä esimerkiksi selvittämään tekoälysovellukselta, mitä luottamuksellista tietoa sen avulla on käsitelty. Hän voi myös kopioida koko sovelluksen itselleen ja saada käsiinsä merkittävän määrän organisaation immateriaaliomaisuutta.
”On tärkeää muistaa, että lopulta myös tekoäly on vain ohjelmisto muiden joukossa. Tekoäly ei luonnostaan tee mitään pahaa, hyökkääjille se on vain yksi uusi työkalu, jonka avulla vahvistaa hyökkäystään. Mahdollisten väärinkäytösten takana ovat edelleen ihmiset, eivätkä perusperiaatteet suojautumisessa, tietoturvassa ja hallinnoinnissa muutu tekoälynkään myötä”, Armstrong-Smith huomauttaa.
Valtiolliset toimijat hyödyntävät tekoälyä kyberhyökkäyksissään
Tekoäly on väistämättä tullut osaksi myös kyberhyökkääjien työkalupakkia. Automaation ja personoinnin avulla hyökkääjät voivat kasvattaa tekemiensä hyökkäysten määrää, luoda yhä osuvampia tietojenkalasteluviestejä tai mukauttaa haittaohjelmissa käyttämäänsä koodia. Lisäksi tekoäly voi toimia työkaluna disinformaation levittäjälle.
Microsoftin kyberturvatiimit ovat havainneet, että on myös valtioiden sponsoroimia toimijoita, jotka käyttävät nykyisin myös tekoälyä välineenä kyberhyökkäyksissä ja psykologisessa sodankäynnissä. Tekoälyä hyödynnetään muun muassa tiedustelutiedon automaattisessa tulkitsemisessa ja skriptauksessa, kuten tiedostojen manipuloinnissa. Tekoälyä on hyödynnetty myös haavoittuvuuksien automaattiseen kartoittamiseen, tietojenkalasteluun sekä esimerkiksi tiedustelun kannalta mielenkiintoisten ihmisten tunnistamiseen.
”Kuten mitä tahansa teknologista työkalua, myös tekoälyä voidaan valitettavasti käyttää väärin. Microsoft julkaisee oppaita, joiden avulla asiakkaat voivat varautua tekoälyn avulla suoritettuihin vaikuttamisyrityksiin. Avainasemassa on ylläpitää ja noudattaa tehokkaita turvallisuus- ja hallinnointiperiaatteita sekä hyödyntää sovelluksiin rakennettuja tietoturva- ja yksityisyysominaisuuksia laajasti. Suosittelemme tietohallintoa myös määrittämään organisaation hyväksymät tekoälytyökalut, jotta varmistetaan, että työntekijät käyttävät ainoastaan hyväksyttyjä sovelluksia”, Armstrong-Smith toteaa.
Tekoälystä potkua tietoturva-ammattilaisen työpäivään
Vaikka tekoälyn tulo tuokin uusia haasteita turvallisuusnäkökulmasta, pääasiallinen vaikutus on tekoälyn tuomissa eduissa.
”Tekoäly tuo tietoturva-ammattilaisen arkeen tavattoman määrän erilaisia hyötyjä. Esimerkiksi Microsoftin tekoälypohjaiset tietoturvatuotteet mahdollistavat täysin uudenlaisia työtapoja ja suojausmenetelmiä sekä vähentävät rutiinityöhön kuluvaa aikaa”, Armstrong-Smith huomauttaa.
Armstrong-Smith asettaa erityisiä odotuksia Copilot for Security -palvelulle.
”En ole koskaan urallani nähnyt vastaavaa innostusta, jota Copilot for Securityyn tällä hetkellä kohdistuu asiakkaidemme keskuudessa. Copilot for Securityssa GPT-4-pohjainen kielimalli on yhdistetty Microsoftin tietoturvaosaamiseen ja globaalin uhkamallinnusdataan. Palvelu keskustelee saumattomasti Microsoftin muiden tietoturvatuotteiden kanssa,” hän sanoo.
”Palvelu tuo tietoturva-ammattilaisten saataville hyperskaalan infrastruktuurin. Uhkamallinnusdataa täydentää muun muassa 78 biljoonaa uutta päivittäistä Microsoftin keräämää tietoturvasignaalia. Palvelun avulla voidaan ratkoa tietoturvaan liittyviä haasteita nopeasti, suoriutua tietoturvaraportoinnista vaivattomasti ja hoitaa vianmääritys jouhevasti.”
Tietoturva-ammattilainen ei ole muutosten keskellä yksin
Tekoälysovellusten kehittyessä kovaa vauhtia Armstrong-Smith korostaa oppimisen, avoimen mielen ja yhteistyön merkitystä niin asiantuntijoille kuin koko kumppaniverkostolle. Organisaatioiden kannattaa investoida tekoälyyn liittyvään tutkimukseen ja kehitykseen. Avainasemassa on ottaa käyttöön vastuullinen ja luotettava tekoäly.
”Mitä enemmän teemme yhteistyötä ja mitä paremmin ymmärrämme uusia haasteita, sitä suuremmat hyödyt tulemme saamaan”, Armstrong-Smith päättää.
