Da generativ kunstig intelligens bliver mainstream inden for robotik, opstår der et kritisk problem: systemerne er uforudsigelige på måder, traditionelle algoritmer ikke er. Hvordan kan en producent være sikker på, at en humanoid robot eller en industrirobot faktisk er sikker at være omkring mennesker?
Det spørgsmål har Dr. Ding Zhao fra Carnegie Mellon Universitys Safe AI lab arbejdet på gennem næsten hele sin karriere. Nu har han sammen med startupveteranen Kyle Wong og maskinlæring-ingeniøren Simo Rachidi grundlagt Safeworld – en virksomhed der skal løse netop det problem.
“Sikkerhedsudfordringen er en kombination af to ting: først meget avanceret generativ AI og probabilistisk evaluering – hvordan vurderer man risikoen i et probabilistisk system? Den anden del, som er rigtig svær, er tillid, og du skal have begge dele for at indsætte en robot,” forklarer Zhao.
12 millioner dollar i finansiering
Safeworld offentliggør sig i dag med en seed-runde på over 12 millioner dollar, anført af Shine Capital og a16z Speedrun, med yderligere investering fra Box Group, Carnegie Mellon University Endowment, Innovation Endeavors og SV Angel.
“Tiden til at bygge en industristandard for sikkerhed er nu, mens robotter bliver designet og implementeret,” siger Jonathan Lai, partner i a16z Speedrun. “Når du først har robotter i private hjem, der kolliderer med børn og forårsager ulykker, er det for sent.”
Safeworlds specialitet er at evaluere robotter i digitale simuleringer, der er befolket med realistiske menneskemodeller. Det minder om de udfordringer, som Tesla og Wayve står over for, når de skal sikre, at deres køretøjer reagerer korrekt på uventede situationer på vejen. Men for robotter bliver det sværere, argumenterer Zhao, fordi de opererer i ustrukturerede miljøer, og hver facility har forskellige sikkerhedsstandarder.
“Et af de mest almindelige problemer er blind hjørner på fabrikker,” fortæller Wong. “Hvad skal hastigheden eller bremsedistancen være for at sikre, at robotten ikke kolliderer med mennesker? Hvis et menneske bærer kasser, vil robotten så opdage mennesket?”
Tusinder af simuleringer af menneskeadfærd
For at svare på disse spørgsmål bygger Safeworld en digital version af fabriksmiljøet ved hjælp af værktøjer som Genesis eller MuJoCo, indsætter simuleringen af robotten, styret af dens rigtige software, og kører derefter tusinder af scenarier, hvor menneskemodeller møder robotten. Det er sværere end det lyder, forklarer Zhao, fordi mennesker er uforudsigelige.
“Vi tester meget med simulation af pessoas, der snubler og falder,” siger Wong. “Ellers skulle man bogstavelig talt gå ud og snuble og falde for robotten, hvilket ikke er praktisk.”
Der er klare ligheder mellem den platform, Safeworld bygger, og værktøjer, som robotter-producenter bruger internt. Grundlæggerne mener dog, at robotproducenter vil have brug for en tredjepartsvalidering af deres sikkerhedssystemer – ikke mindst for at dele sikkerhedserfaring på tværs af konkurrenterne.
“Mange mennesker undervurderer, hvor svær nogle af disse edge cases vil være at løse,” siger Zhao. “Det er ikke robotten i dampsugeren, i demoen, vi bekymrer os om. Det er robotten, der bliver rullet ud i stor skala, bruges af mennesker der potentielt aldrig har brugt en robot før.”
Partnerskab med industrirobotfirma
Vishal Dugar, CTO i Gritt Robotics, udvikler AI-hjernen til robotter, der i dag hjælper arbejdere med at installere solpaneler på industrielle solbedrifter og har ambitioner om at påtage sig mere komplekse byggeropgaver. Hans virksomhed samarbejder med Safeworld om udviklingen af sikkerhedssimuleringer.
“Det svære med de fleste af vores systemer er, at det er meget vanskeligt formelt at bevise sikkerheden ved at skrive ligninger og matematisk vise, at systemet er verificeret som sikkert,” siger Dugar. “Det må nødvendigvis gøres empirisk.”
Hans robotter arbejder side om side med mennesker, og at sikre, at robottens arm ikke rammer dem, er selvfølgelig højeste prioritet. At verificere det kræver at betragte alle mulige scenarier.
“Mennesker har mange forskellige former,” påpeger Dugar. “Deres kroppe kan være i forskellige positioner. De kunne være på knæ, stående. De kunne snuble og falde. De kunne sidde på hug. De kunne løbe. Du skal svare på alle disse adfærdsmønstre, mennesker potentielt kan udvise, sammen med variationen i menneskers udseende – tøj, størrelse, form, højde, hudfarve og alt muligt andet.”
Vej til profitabilitet
Det er stadig tidligt både for Safeworld og for generativ AI inden for robotik, og virksomheden skal stadig finde den bedste forretningsmodel – en platform til eksterne brugere eller en servicebaseret tilgang? – men teamet er sikker på, at de tackler det rigtige problem.
“Vi vil sandsynligvis være det første profitable firma inden for dette felt,” siger Zhao. “Fordi hvis nogen vil indsætte robotter, skal de betale os for at håndtere situationen.”