Opera kjører KI rett på din egen datamaskin, uten abonnement eller sky

Operas nettleser for datamaskiner kan nå kjøre en AI-modell på enheten den er installert på og la nettsteder og utvidelser du godkjenner, bruke modellen. Funksjonen heter WebAI og kommer nå som en tidlig forhåndsversjon i Opera One. Når den er slått på, laster den ned en modell med åpne vekter, som Googles Gemma, eller bruker grunnmodellen Apple allerede har bygget inn i operativsystemet sitt på Mac. Alle godkjente nettsteder kan be modellen om å skrive, sortere eller sammenligne tekst.

Den praktiske forskjellen handler om hvem som betaler, og hvor ordene dine havner. En nettleserutvidelse som oppsummerer artikler eller rydder opp i fanene dine ved hjelp av AI, sender vanligvis siden til en skytjeneste. Da trengs en konto, en API-nøkkel eller et månedsabonnement for å dekke kostnadene. Med WebAI blir teksten på laptopen, utvikleren betaler ingenting per forespørsel, og brukeren betaler ingenting i det hele tatt. «Mye av det folk vil bruke AI til, krever ikke et datasenter. Laptopen din kan allerede gjøre jobben, uten å sende dataene dine noe sted», sier Krystian Kolondra, konserndirektør for nettlesere og AI i Opera.

Utviklerne får tre byggeklosser, som Opera kaller Prompt-, Decision- og Semantic Embeddings-API-ene. Enkelt forklart kan de brukes til å generere tekst, sortere informasjon i kategorier og måle hvor nært beslektet to tekststykker er. Operas egne eksempler er bevisst småskala: en utvidelse som varsler om lokkeoverskrifter, en som finner relevante stillingsannonser mens du surfer, og en som fargelegger hvert avsnitt i en artikkel etter hvor viktig det er for et prosjekt du har beskrevet.

For å vise bredden har Opera lansert seks eksperimentelle utvidelser, men understreker at de er demonstrasjoner, ikke produktfunksjoner. Én lager en kort quiz for å sjekke om du har forstått artikkelen du nettopp leste. En annen, Semantic Art, gjør en nettside om til bevegelige former, der setninger med lignende innhold driver ved siden av hverandre. Noen av utvidelsene er rett og slett på tull, som et verktøy som skriver om hvilken som helst artikkel til et «uutholdelig inspirerende» innlegg for det parodiske nettverket RecordIn, og to ASCII-katter som improviserer en scene om hvilket som helst tema du skriver inn.

De større ambisjonene ligger i ordet standard. WebAI er en foreslått nettstandard som ifølge Opera har støtte fra Google og Microsoft. Chrome tilbyr allerede utviklere innebygde AI-grensesnitt, som kjører Googles Gemini Nano-modell. Operas variant er uavhengig av modell: Den kan bruke åpne modeller som Opera distribuerer, kompatible modeller som allerede finnes på enheten, eller Apples modell som kjører lokalt. Hvis nettleserne blir enige om ett felles grensesnitt, kan utviklere skrive en AI-funksjon én gang og la den kjøre på modellen som finnes i hver besøkendes nettleser, i stedet for å leie datakraft i skyen for hver leser.

Begrensningene er reelle. WebAI er en forhåndsversjon og fungerer bare på 64-bits Windows-PC-er med Intel- eller AMD-brikker, samt på Mac-er med Apple Silicon. Linux, Mac-er med Intel-prosessor og Windows på Arm er ikke støttet, og Opera har ikke sagt noe om nettleserne sine for mobil. Lokale modeller er langt mindre enn dem de store skychatbotene bygger på, og Opera advarer selv om at hastigheten avhenger av maskinvaren. En eldre laptop vil derfor svare saktere enn et datasenter. At teksten blir værende på enheten din, beskytter dessuten bare det modellen behandler: Nettstedet du gir tilgang til, ser fortsatt hva du gjør der, slik det alltid har gjort.

Opera lar brukeren selv bestemme om funksjonen skal slås på. Ingenting lastes ned før WebAI aktiveres i nettleserens AI-innstillinger. Den første modellen kan bruke noen minutter på å laste ned, hvert nettsted må få sin egen tillatelse, og funksjonen kan slås av når som helst. For et selskap som i årevis har markedsført nettleserne sine med vekt på personvern, og sier at hundrevis av millioner bruker dem, er denne løsningen med frivillig påmelding selve poenget med satsingen.

Lanseringen, som ble kunngjort fra Oslo 27. oktober, bygger videre på en eksperimentell utviklerversjon fra 2024. Da ble Opera den første store nettleseren som tilbød innebygd tilgang til lokale modeller. Samtidig lanserte selskapet HTML-in-Canvas, en separat utviklerfunksjon som plasserer levende, klikkbare nettsider i 2D- og 3D-scener, og som er rettet mot spill og Opera GX. WebAI kommer først til Opera GX, nettleseren for spillere, og Opera Neon, selskapets agentbaserte nettleser. Opera har ikke oppgitt noen dato. Selskapet planlegger også flere åpne modeller tilpasset ulike enheter, og flere verktøy for utviklere.

Inntil andre nettlesere tar i bruk det samme grensesnittet, vil en funksjon bygget på WebAI bare fungere for dem som allerede bruker Opera. Om dette endrer seg, avhenger mindre av Opera enn av om Google og Microsoft går fra å støtte forslaget på papiret til å ta det i bruk i sine egne nettlesere.

Tagger: Google, Apple, lokal KI, Gemma, Opera One, WebAI