Ontwikkelaarsversie Opera One bevat optie om llm’s lokaal te draaien

De ontwikkelaarsversie van Opera One bevat een nieuwe functie waardoor gebruikers een large language model lokaal op hun computer kunnen draaien. Opera biedt meer dan 150 verschillende llm’s aan en claimt dat data van gebruikers uitsluitend op de apparaten zelf wordt verwerkt.

De nieuwe functie zit volgens Opera in een nieuwe versie van Opera One Developer vervat. Deze ontwikkelaarsversie versie van de browser kan via de website van Opera gedownload worden. Eenmaal gedownload, kunnen gebruikers kiezen uit verschillende taalmodellen waaronder Llama van Meta, Mixtral van Mistral en Gemma van Google. Sommige taalmodellen zijn enkele gigabytes groot, terwijl anderen tientallen gigabytes aan opslagruimte nodig hebben.

Opera maakt gebruik van Ollama. Dat is een opensource framework waarmee gebruikers llm’s lokaal kunnen draaien. De taalmodellen die Opera aanbiedt, zouden volgens TechCrunch ook tot de Ollama-libraries behoren. Opera zou op een later moment ook zelf geselecteerde llm’s willen aanbieden.

Taalmodellen in Opera One Developer