Till startsida
Webbkarta
Till innehåll Läs mer om hur kakor används på gu.se

Kan artificiell intelligens förstå mänskliga koncept?

Riccardo Scandariato forskar om säkerhet och integritet vid mjukvaruutveckling med ett växande fokus på artificiell intelligens. Kan”syntetiska kollegor” hjälpa till att skapa säkrare mjukvara? Och kan självkörande bilar förstå och använda sig av moraliska resonemang? Det är några av de frågor som Riccardos forskning försöker svara på.

– Ända sedan de första kurserna av min utbildning har jag varit fascinerad av säkerhet. Området tilltalade mig och jag har fördjupat mig i det alltsedan dess, säger Riccardo Scandariato.

Riccardo fick sin doktorsexamen vid Polytechnic University of Turin i Italien 2004. Vid Katholieke Universiteit Leuven i Belgien fortsatte han forska kring säkerhet och integritet. Efter åtta år i Belgien tog han beslutet att flytta till Sverige och börja vid institutionen för data- och informationsteknik i Göteborg.

Maskininlärning som introduktion till vidare forskning inom artificiell intelligens

I sin forskning använde Riccardo maskininlärning för att upptäcka säkerhetsbrister. Det ledde honom så småningom vidare till forskning inom artificiell intelligens.

– Vi använde maskininlärning för att bygga modeller som kan förutse säkerhetsbrister i källkoden. I synnerhet använde vi tekniker lånade från textanalys. Vi analyserade källkod som om det vore ett vanligt språk och utifrån det kunde vi förutsäga sårbarheter. Det här har vi gjort ganska länge, i fyra-fem år.

Artificiell intelligens blir allt mer intressant inom många olika forskningsområden och har även stor potential inom säkerhet och särskilt inom mjukvaruutveckling.

– AI har blivit mer och mer intressant för mig och min forskning de senaste ett och ett halvt åren. Nu kan jag börja tillämpa min kunskap inom maskininlärning på nya problem.

Säkrare mjukvara med syntetiska kollegor?

Ett av Riccardos forskningsområden är användning av artificiell intelligens i smarta utvecklingsverktyg, så kallade dev bots. En bot är en mjukvara som självständigt kan utföra en uppgift. Det finns prototyper av dev bots men teknologin är i sin linda.

– Det handlar inte bara om självständighet, utan också om en kompetens att interagera med människor. En bot ska kunna förstå vad en utvecklare vill eller till och med tolka undertexter i en konversation. Det är mer visionärt, men vi tar de första trevande stegen.

– Det vi siktar på är en samarbetsmodell. Idén är att skapa blandade utvecklingsteam med både människor och syntetiska dev bots som samarbetar i mjukvaruutvecklingen.

Botarna skulle alltså arbeta vid sidan av en utvecklare och hjälpa till med programmeringen. Det skulle även kunna resultera i säkrare mjukvara.

– Eftersom en bot observerar dig medan du programmerar upptäcker den om du återkommande gör något som kan orsaka säkerhetsbrister. I det fallet kan den hänvisa dig till utbildningsmaterial online, eller till och med göra kodgranskningar och förklara varför din kod inte är säker.

Det är en av utmaningarna inom området. Att lyckas få en bot att förklara varför de gjorde en viss bedömning och ge en motivering på samma sätt som en människa skulle gjort.

– Det hade varit som att ha en säkerhetsexpert bredvid sig, som kan säga ’det här behöver ändras på grund av den anledningen’, istället för att bara säga ’det här behöver ändras punkt’.

Riccardo nämner att dev bots kan innebära nya utmaningar socialt och arbetsmiljömässigt. Något som kommer att kräva multidisciplinär forskning.

– ’Kommer du bli olycklig av att jobba i ett team tillsammans med dev bots? Kommer botarna att vara bossiga eller hjälpsamma?’ Det är utanför min expertis, men det finns personer här på avdelningen som är intresserade av att forska på de övergripande frågorna.

Kan AI förstå och följa moral?

En annan del av Riccardos forskning undersöker hur artificiell intelligens kan förstå och tillämpa etiska resonemang. Forskningsområdet, som kallas maskinetik, har funnits i ett decennium men har under de senaste åren fått allt mer uppmärksamhet efter att stora företag som Google börjat att fokusera på området.

Riccardos forskning rör huvudsakligen fordonsindustrin och där har han stött på frågan om maskinetik när det gäller självkörande fordon.

– Hur kan vi säkerställa att fordonen inte bara fungerar när det gäller att förflytta dig säkert från punkt A till B, utan att fordonen även har någon nivå av moralisk kompetens?

Det första steget är att hitta ett sätt att fånga och formulera etiska regler på ett sätt som en artificiell intelligens kan förstå.

– Inom utveckling av säkerhetsmjukvara finns redan policyspråk som används för att beskriva rättigheter och skyldigheter, vad du kan och inte kan göra. Det är en början, men när det gäller etiska resonemang måste man gå längre. Oftast är etiska värderingar väldigt abstrakta och inte möjliga att göra beräkningar från. En av de stora utmaningarna är hur man ska formulera och beskriva värderingarna. De är sällan svartvita, och gränserna kan vara suddiga. Vilken logik är bäst att använda? Det är en aspekt vi undersöker.

Fantastisk forskningsgrupp

Under 2014 letade Riccardo efter nästa steg i sin karriär, en position som professor. Det ledde honom till Sverige och Göteborgs universitet.

– Det är ett karriärsdrag som jag inte ångrar. Jag blev faktiskt väldigt nöjd här. Det är en fantastisk forskningsgrupp och en väldigt bra miljö. Avdelningen består av väldigt energifyllda, ganska unga och olika personer från hela världen, så det är roligt att arbeta här. Från en professionell synvinkel är det definitivt stimulerande.

 

Text: Simon Ungman Hain
Foto: Pontus Johansson

 


Fakta:

Riccardo Scandariato
Docent vid avdelningen för Software Engineering
Institutionen för data- och informationsteknik
Göteborgs universitet och Chalmers

Kontaktinformation, Riccardo Scandariato

Riccardo Scandariato

Riccardo ScandariatoRiccardo Scandariato intresserar sig för säkerhet och idén om en mjukvara som självständigt kan bidra till att förbättra säkerheten.

Sidansvarig: Catharina Jerkbrant|Sidan uppdaterades: 2018-11-13
Dela:

På Göteborgs universitet använder vi kakor (cookies) för att webbplatsen ska fungera på ett bra sätt för dig. Genom att surfa vidare godkänner du att vi använder kakor.  Vad är kakor?