Nvidia brengt Chat with RTX-demo voor maken van gepersonaliseerde AI-chatbot uit

Nvidia heeft een vroege versie van Chat with RTX uitgebracht. Gebruikers kunnen met die demo-software een gepersonaliseerde AI-chatbot draaien op hun pc. De chatbot werd eerder dit jaar al aangekondigd tijdens de CES-beurs in Las Vegas.

Chat with RTX is per direct te downloaden op de website van Nvidia, zo bevestigt het bedrijf in een blogpost. De software is beschikbaar voor gebruikers met een RTX 30- of RTX 40-gpu met tenminste 8GB videogeheugen. Het systeem van de gebruiker moet daarnaast over minimaal 16GB ram beschikken en Windows 11 draaien.

Nvidia kondigde Chat with RTX in januari al aan. Het bedrijf zei toen dat de software later die maand beschikbaar zou komen, maar dat werd uiteindelijk half februari. De tool is gebaseerd op een groot taalmodel van Nvidia, dat gebruikers lokaal kunnen draaien. Ze kunnen het taalmodel ‘verbinden’ met hun eigen data, waarna de chatbot daarover vragen kan beantwoorden.

Gebruikers kunnen de software bijvoorbeeld voorzien van lokaal opgeslagen tekstdocumenten, pdf’s en XML-bestanden. Het is ook mogelijk om URL’s van YouTube-video’s en -afspeellijsten in te voeren in de software, waarna de software transcripten van die video’s downloadt. De bot kan die verschillende gegevens analyseren en vervolgens kunnen gebruikers daar vragen over stellen. De demo draait lokaal en gebruikt daarvoor de Tensor-cores in de RTX-gpu.

Chat with RTX beantwoordt vragen over een YouTube-video. Bron: Nvidia