Opera révolutionne la navigation avec des LLM locaux : adieu l’addiction à Internet
13 avril 2024
Opera a annoncé aujourd’hui une nouvelle fonctionnalité qui permet aux utilisateurs de télécharger et d’utiliser de grands modèles linguistiques directement sur leur ordinateur. Cette fonctionnalité a d’abord été introduite pour les utilisateurs d’Opera One qui reçoivent des mises à jour du flux des développeurs. Désormais, il sera possible de choisir parmi plus de 150 modèles issus de plus de 50 familles différentes, dont Meta’s Llama, Google’s Gemma et Vicuna.
Les avantages de l’utilisation locale des LLM
L’utilisation locale des LLM présente de nombreux avantages pour les utilisateurs. Tout d’abord, elle permet d’accéder à une large sélection de modèles tiers directement dans le navigateur, sans avoir besoin d’utiliser des outils en ligne. En outre, les modèles téléchargés localement peuvent également être testés et utilisés hors ligne, ce qui permet aux utilisateurs de travailler plus efficacement sans dépendre d’une connexion Internet stable.
Selon Jan Standal, vice-président d’Opera,« Opera offre pour la première fois un accès à une large sélectionde LLM tiers directement dans le navigateur« .On s’attend à ce que la taille des modèles diminue au fur et à mesure qu’ils se spécialisent dans des tâches spécifiques« .
Comment fonctionne le téléchargement et l’utilisation des LLM dans Opera ?
Pour télécharger et utiliser les LLM dans Opera, les utilisateurs doivent s’inscrire au programme Opera AI Feature Drops, qui leur donne un accès en avant-première à certaines des nouvelles fonctionnalités basées sur l’intelligence artificielle. Actuellement, Opera utilise le cadre open source Ollama pour exécuter des modèles de langage sur l’ordinateur de l’utilisateur.
Les modèles disponibles sont une sélection de la bibliothèque Ollama, mais l’entreprise a annoncé que des modèles provenant de différentes sources seraient inclus à l’avenir. Il est important de noter que chaque variante des modèles occupe plus de 2 Go d’espace sur le disque local, il est donc conseillé de vérifier l’espace disponible pour éviter de manquer d’espace de stockage.
Autres possibilités d’utilisation des modèles linguistiques
Si vous souhaitez économiser de l’espace sur votre disque local, il existe également d’autres options pour utiliser les modèles de langue en ligne. Par exemple, plusieurs outils en ligne sont disponibles, tels que Poe de Quora et HuggingChat, qui vous permettent d’explorer différents modèles de langue sans avoir à les télécharger sur votre ordinateur.
Autres fonctionnalités d’Opera basées sur l’intelligence artificielle
Opera a commencé à expérimenter des fonctionsbasées sur l’intelligence artificielle dès l’année dernière. En mai, l’entreprise a lancé un assistant appelé Aria dans la barre latérale du navigateur et l’a introduit dans la version iOS en août. En janvier, Opera a annoncé qu’il travaillait sur un navigateur basé sur l’intelligence artificielle avec son propre moteur pour iOS, en réponse à la demande des Digital Market Acts (DMA) de l’UE qu’Apple supprime l’exigence du moteur WebKit pour les navigateurs mobiles.