Chat con RTX de Nvidia es un prometedor chatbot de IA que se ejecuta localmente en tu PC

Create a 3:2 aspect ratio illustration in a lighting and child-friendly style. The graphic should depict a personal computer on a desk with features that hint its technologically advanced nature, perhaps glowing or with futuristic design aspects. On the screen, show an AI chatbot animation, showing text balloons indicating that it is summarizing and analyzing data from different documents like YouTube videos and PDFs. Farther in the background, depict the backside of a person – possibly a journalist – attentively observing the process, hinting at the potential use of this technology for data research. Please also show some elements that suggest it runs on a powerful GPU, for example, a high-tech, advanced design or an emblem on the computer case that suggests a high-end GPU.

Nvidia ha publicado una versión preliminar de Chat with RTX, una aplicación de demostración que permite a los usuarios ejecutar un chatbot de IA personal en su PC. La aplicación puede analizar vídeos de YouTube y documentos personales para proporcionar resúmenes y respuestas relevantes basadas en los datos del usuario. Requiere una GPU de la serie RTX 30 o 40 con al menos 8 GB de VRAM. Aunque la aplicación aún está un poco en bruto, tiene potencial para convertirse en una valiosa herramienta de investigación de datos, sobre todo para periodistas y análisis de documentos. Chat con RTX puede buscar en transcripciones de vídeo y resumir vídeos enteros, aunque hay algunos fallos en la versión actual. También puede escanear archivos PDF y verificar datos de forma rápida y eficaz. Sin embargo, la aplicación aún está en sus primeras fases y parece una demo para desarrolladores. Instala un servidor web y una instancia de Python en el PC del usuario y utiliza los núcleos Tensor de Nvidia en una GPU RTX para realizar consultas más rápidas. El proceso de instalación dura unos 30 minutos y la aplicación es bastante grande. Existen problemas y limitaciones conocidos, como la atribución inexacta de fuentes y la incapacidad de recordar el contexto para preguntas de seguimiento. A pesar de sus limitaciones, Chat with RTX muestra el potencial de los chatbots de IA que se ejecutan localmente en los PC, proporcionando una alternativa a los servicios basados en suscripción para el análisis de archivos personales.

Artículo completo

Deja una respuesta