AI och design: Vad vi behöver veta för att göra AI-tjänster användbara och förtroendeingivande

Oavsett vad vi designar behöver vi hantera ett material som talar tillbaka till oss och som påverkar designen. Alla material har sina egna unika egenskaper och begränsningar. För att kunna designa med ett material, måste du lära känna det väl – du måste veta vilka möjligheter det ger dig och vilka begränsningar du behöver tänka på.

Maskininlärning, neurala nätverk, grundmodeller, generativ AI och agent AI springer alla ur en lång utvecklingsresa som genererat nya designmaterial som i någon grad är obekanta för många digitala designers. Att skapa artificiell intelligens krävde datavetare och ingenjörer som kunde visa oss vad som är möjligt. Nu när vi vet vad AI kan göra är det hög tid att förbättra användbarheten.

Vi måste förstå det för att göra det användbart

Det här betyder att designers måste lära sig grunderna i vad som döljer sig bakom termen “AI”. Sedan måste vi kombinera vår förståelse av allt det luddiga som AI för med sig med allt det luddiga som mänskligt beteende och mänsklig kommunikation består av.
Det är ingen liten uppgift. Om du någonsin försökt skriva en prompt till en AI-tjänst som genererar bilder, vet du att det sällan blir det resultat du föreställt dig. En hel del av problemet ligger i det sätt som vi naturligt uttrycker oss på och hur vi förlitar oss på att vår konversationspartner ger oss vinkar i ord eller kroppsspråk för att säkerställa att de förstått oss fullt ut.

För att få AI-tjänsten att generera den bild du vill ha krävs det att du är extremt specifik, att du använder dig av många parametrar och att du lär dig en hel del om specifika termer och användningen av skiljetecken för att förmedla din intention. Med andra ord blir det väldigt tekniskt – men inte direkt fantastiskt vad gäller användbarheten, användarupplevelsen eller möjligheten att utforska och upptäcka den underliggande logiken.

Andra AI-tjänster agerar på uppdrag av användaren. Om du exempelvis ska ut och resa kan du för en agentiv AI tala om vart, mellan vilka datum, vad vi är beredda att betala och hur många mellanlandningar vi kan tänka oss att göra. Vi behöver inte söka efter resan själva utan tjänsten meddelar oss om eller när den hittar vad vi letar efter. Det innebär att designers måste lära sig att designa för överlämningar från människa till maskin och sedan tillbaka till människan igen.

Nuvarande AI-teknologier erbjuder en uppsjö av möjligheter för designers, men de kräver flexibilitet och kreativitet samt en förmåga att fånga de oväntade möjligheterna och lösningarna medan man undersöker och utforskar hur teknologin blir mest användbar för målgruppen. AI som designmaterial utvidgar betydelsen av interaktion mellan människa och maskin, vilket innebär att vi måste utveckla våra instinktiva intentioner till att omfatta alternativa gränssnitt så att vi kan omvandla användarnas behov till det rätta gränssnittet för den specifika kontexten.

Alla dessa möjligheter har också fört med sig nya utmaningar eller snarare lyft välkända utmaningar som nu blivit mer brådskande att lösa. Men den goda nyheten för designers är att vår kompetens blir värdefull när industrin måste anpassa sig och hitta lösningar på problemen eftersom vi i vårt yrke alltid levt i skärningspunkten mellan teknologi, beteendevetenskap, affärsverksamhet och estetik.

Vi har lång erfarenhet av att utforska användbarhet, inlärningsmöjligheter, emotionell inverkan, flexibilitet och användarupplevelser. Designers har traditionellt sett behövt förstå de juridiska spelreglerna kring de tjänster de arbetar med, samt överväga etik, lämplighet och till och med hållbarhetsaspekter. Dessa faktorer blir särskilt viktiga i takt med att AI hamnar mer och mer i fokus vad gäller reglering och lagstiftning.

Det som designers bör fokusera på just nu är att lära sig mer om neurala nätverk, maskininlärning och data, så att vi kan skapa en gemensam grund att stå på tillsammans med dataforskare och AI-utvecklare. Ett gemensamt språk och förmågan att ställa rätt frågor blir vitala faktorer för att kunna designa användbara och pålitliga AI-tjänster.

Utöver detta är det nu, mer än någonsin, nödvändigt för designers att utgöra en länk mellan affär och teknologi. Vi behöver ha tillräckligt med kunskap för att kunna förklara AI och därigenom hjälpa beslutsfattare att förstå egenskaper, begränsningar, möjligheter, kostnader och risker med AI. Vi behöver bistå i att etablera strategier för AI-användning inom organisationer – dels för interna utvecklingsprojekt och dels för att köpa AI-baserad programvara och anpassa den.

Att lära sig bygga tillit

Detta kräver också av oss att förstå hur man bygger förtroende för AI-tjänster. I slutändan kommer användare inte att fortsätta använda en tjänst de inte litar på.
Det kommer alltid att finnas någon som kommer med en mer begriplig, transparent och lättanvänd lösning. Så även om användare för närvarande kanske är tvungna att använda en viss tjänst betyder det inte att de inte kommer att byta om något bättre dyker upp.

För designers betyder detta att vi måste använda vår kunskap och förståelse av AI för att göra det begripligt och transparent för användaren. Ett exempel är att hjälpa användare att förstå varför en tjänst producerar de resultat de får. Detta skulle till exempel kunna göras genom att visa de persondata som används för att generera ett resultat. Vad händer om det visar sig att den datan är gammal eller felaktig? Ett annat exempel är att designa sätt för användare att enkelt ge feedback om hur AI-tjänsten fungerar. Denna feedback är avgörande för att förbättra användbarheten av en AI-tjänst.

Företag som använder AI måste också vara öppna och transparenta om hur AI-resultaten övervakas och hur de arbetar för att förhindra skadliga utfall. Vad har detta att göra med användbarhet, kanske du undrar? Tja, nästan allt!

Ett förlorat förtroende är väldigt svårt att återuppbygga, och utan förtroende för en tjänst spelar din fantastiska användarupplevelse och smidiga interaktioner ingen roll.

Detta ställer nya krav på designers att prototypa inte bara för användarupplevelse och användbarhet, utan också för att upptäcka och förutse ogynnsamma resultat i AI-tjänster.

Lär dig prototypa oklarhet

En stor del av de nya AI-tjänsterna förlitar sig fortfarande på skärmgränssnitt, men även detta kan förändras när man hanterar konversation snarare än traditionella interaktionsmönster. Nya element behöver designas, som exempelvis en personlighet och karaktärsdrag åt en konversationsassistent, vilket majoriteten av dagens designers än så länge inte har behövt hantera. Vägen att skapa personligheter är fylld med fällor som det är lätt att fastna i – den mest uppenbara är kanske att ge en virtuell assistent standardinställningen av ett kvinnligt kön. Den mindre uppenbara är hur assistenten kommer att lära sig och anpassa sig till interaktionen med en specifik användare och hur träningsdata kommer att påverka hur detta förhållande utvecklas över tid.

Termen "förhållande" används mycket medvetet här, eftersom vi människor oundvikligen kommer att skapa ett förhållande med en maskin om den uppvisar mänskliga egenskaper. Det är det sätt vi är programmerade att reagera på. Detta lägger mycket ansvar på designern. Förståelsen av träningsdata blir avgörande. Är datasetet som används för att träna AI:en lämpligt för dina målgrupper? Har det kurerats på rätt sätt? Har datan balanserats för snedvridning? Har den fått tillräckligt med läromaterial för att utföra sin uppgift? Automatisk översättning av produktnamn och beskrivningar har varit en outsinlig källa till underhållning i memes, och det kan framstå som en harmlös detalj. Men det nöter bort förtroendekapitalet som användarna har för en tjänst. Om de inte kan få produktnamnen rätt – vad annat går fel?

Det är självklart omöjligt att testa alla möjliga utfall och upptäcka alla de sätt som saker kan gå fel på. Men vårt prototyparbete måste bli mer utforskande och öppet för designmetoder som vi känner till men sällan använder (som “body storming”, metoder hämtade från skådespeleri och teater, Trollkarlen från Oz) och som synliggör intuitiva reaktioner och förväntningar på tjänster. Vi måste också utveckla metoder för att aktivt undersöka hur AI-tjänsten kommer att påverka världen (andra företag, olika samhällsgrupper, individer, minoriteter) och skapa sätt att utforska hur någon kan orsaka avsiktlig skada med hjälp av den tjänst vi utvecklar. Designers måste också vara uppmärksamma på att avslöja nya användarkrav, eftersom dessa nya tjänster kan väcka nya behov som är kontextberoende.

Vår profession har redan en stor kunskapsbas för att ge sig in i skapandet av användbara AI-tjänster. Men vi måste också lära oss mycket om teknik, data, kurering och alla de nya användarbehov som följer med AI som designmaterial.

Användarna måste känna att de förstår och kan lita på AI-tjänsten, och företag behöver hjälp att förstå AI och betydelsen av att bygga förtroende som en del av sin affärsstrategi för sina AI-produkter. Allt detta blir grunden för att förbättra användbarheten i AI-tjänster.