Esta web utiliza cookies para que podamos ofrecerte la mejor experiencia de usuario posible. La información de las cookies se almacena en tu navegador y realiza funciones tales como reconocerte cuando vuelves a nuestra web o ayudar a nuestro equipo a comprender qué secciones de la web encuentras más interesantes y útiles.
enero 14, 2024
El director de tecnología de una importante empresa que está creando lo que él llama «clústeres de borde», explica, como une los PC de la empresa para que sirvan como motores de inferencia de backend. Funcionan por la noche cuando los trabajadores no los utilizan en la oficina. Este concepto de PC utilizadas como motores de inferencia de IA basados en el borde podría cobrar impulso en el nuevo año, especialmente cuando Intel y sus socios presenten sus modelos de PC con IA. Esta idea es esencial cuando una empresa solo necesita inferir los datos de su propia empresa y no necesita inferir LLM estándar de mercado abierto.