Esto es IA nivel PRO: Hardware y Benchmarks

Te ayudo con las OPOS 👉 https://oposicionesia.com/ ✅ GUIA IA EN LOCAL: https://aulaenlanube.com/el-mejor-hardware-para-ia-en-local/ 🔗 Comunidad de WhatsApp: https://chat.whatsapp.com/LZxTaK1HdLxGkeoOAqHqdk ❤️ WEB PERSONAL: https://edutorregrosa.com/ 💜 IA PARA DOCENTES: https://ia-para-docentes.com/ 💙 AULAENLANUBE: https://www.aulaenlanube.com/ 💚 INSIGNIAS: https://insignias.org/ _________________________________________ Construyendo el CPD del IES Dr. Lluís Simarro En este segundo vídeo de la serie sobre nuestro Centro de Excelencia, nos adentramos en la arquitectura técnica que sustenta nuestro proyecto de Inteligencia Artificial y Big Data. Explicamos en detalle cómo hemos diseñado nuestro Centro de Procesamiento de Datos (CPD) para permitir la inferencia y el entrenamiento de modelos de IA de forma local y segura. La clave de nuestra infraestructura es garantizar que ningún dato sensible salga del centro educativo, cumpliendo estrictamente con la Ley Orgánica de Protección de Datos (LOPD). Mostramos la evolución de nuestra arquitectura hacia un modelo híbrido que combina nodos NVIDIA DGX Spark para inferencia y el Nodo Titán para entrenamiento. Además, presentamos resultados reales de rendimiento (benchmarks) comparando tecnologías como Ollama y vLLM, y una demostración práctica de cómo la IA puede asistir al profesorado en la generación de materiales didácticos y rúbricas en cuestión de segundos. 🕒 Marcas de tiempo ________________________________ 00:00 Introducción: Red de Centros de Excelencia en IA 01:27 Estructura del CPD y componentes del proyecto 01:57 Evolución del hardware: De 24 nodos Spark a arquitectura híbrida 03:12 Ficha técnica DGX Spark: Arquitectura ARM y 1 Petaflop de cómputo 05:20 El Nodo Titán: Potencia para entrenamiento con RTX 6000 06:30 Infraestructura de red: Core Cisco Nexus a 100 Gbps 08:56 Topología de red y conectividad interna 11:42 Benchmarks: Pruebas de carga y usuarios concurrentes en local 14:20 Comparativa técnica: Ollama vs vLLM 17:19 Rendimiento con modelos Qwen de 80B parámetros 19:46 Demo: Generación de exámenes y rúbricas con Open WebUI 22:49 Conclusiones: Soberanía del dato y la IA como aliado docente