La industria de la IA ha hecho que tu PC sea más caro y ahora tiene una oferta: pagarte para usarlo cuando no lo uses

La industria de la IA está llamando a la puerta de una nueva era: la de la inferencia. Si estos últimos años nos ha bombardeado con el entrenamiento y todos los recursos necesarios para llevarlo a cabo (saqueando Internet, usando contenidos protegidos por derechos de autor y destruyendo millones de libros por el camino), ahora es el turno de aplicar ese entrenamiento y hacer que la IA entre en la era agéntica. 

Para eso, y para la inferencia, se necesita una enorme capacidad de cálculo y hardware trabajando 24/7 en todo el mundo, y ante la posible falta de infraestructura debido a que los centros de datos no se levantan en un día, a un puñado de startups se les ha ocurrido una curiosa idea.

Convertir tu RTX 4090 en un chatbot.

En corto. Esto es fácil de explicar. Si recuerdas la época de la fiebre de las criptomonedas, recordarás que había malware que infectaba tu equipo para que tu GPU minara criptos sin que te enteraras. Descubrirlo no era complicado porque, en definitiva, tu GPU estaba ocupada y a nada que sepas mirar el administrador de tareas, descubrirías que algo iba mal. Aparte del malware, había otros proyectos más legítimos para usar la potencia de nuestro PC cuando estuviera inactivo con el fin de encontrar, por ejemplo, vida extraterrestre.

Pues el concepto que plantean startups de IA como Far Labs o Evolving Edge es exactamente el mismo: usar la potencia inactiva de un PC cuando el usuario no esté utilizándola para convertirlo en una especie de servidor de IA. Que nuestra casa sea un centro de datos en miniatura, en definitiva.

Cómo funciona. John Federico es el CEO de Evolving Edge y comenta que, aunque todo el mundo piensa que la única manera de mover esto es mediante los centros de datos, la potencia de cálculo es algo que también está en casa de los usuarios y puede aprovecharse para realizar cálculos. Lo que plantea es una app que los usuarios deben instalar y asegura que "todo lo que queremos es ejecutar tareas cuando su máquina nos lo permita. La única información que veremos del PC son los recursos que usamos y siempre puedes darnos un horario".

No te pierdas Guerra de Chips, nuestra newsletter exclusiva para suscriptores de Xataka Xtra.

La gran batalla tecnológica de nuestro tiempo es la de los semiconductores, y te la contamos cada semana.

Suscríbete a Xtra

Sobre las preocupaciones por la seguridad, Federico apunta que "el software es de código abierto, por lo que cualquiera puede mirar a ver qué hace", afirmando que los datos locales son seguros y que no se descargará ningún malware.

Las cuentas de la vieja. Desde Far Labs afirman que es "como Uber o Airbnb, pero para tareas de cómputo de inferencia de IA" ya que nosotros ponemos la infraestructura y estas empresas nos pagan por ejecutar tareas de inferencia de IA en nuestro hardware inactivo. Pero claro, hay un problema: a más potencia de GPU, más consumo energético y más sube la factura de la luz.

Estas empresas no han detallado cuánto pagarán por usar el equipo, pero desde Tom's Hardware han hecho las matemáticas de lo que, a priori, nos costará a nosotros mantener el chiringuito. Para ello, se basan en las cuentas de Salad, una empresa cuya red minaba Ethereum en GPUs inactivas. Vendían potencia de cálculo de GPU a partir de 0,02 dólares la hora y, una vez la plataforma se quedaba su comisión, el dueño de la tarjeta sólo veía una porción de ese pastel.

Estiman que la empresa generó en 2021 3,6 millones de dólares a partir de los PC de usuarios, distribuyendo entre los mismos 500.000 dólares en recompensas, equivaliendo a 14 centavos por dólar generado para quienes aportan el hardware. El problema es que ese hardware consume, y mucho, y tomando una RTX 4090 como referencia con entre 350-450 W bajo carga sostenida y teniendo en cuenta que la GPU funcione las 24 horas del día, la factura se elevará entre 40 y 50 dólares mensuales. 

Tirita. Esto se ha bautizado como "infraestructura de IA descentralizada" y más allá de lo llamativo de prestar nuestro equipo para trabajar (un equipo que esa misma industria que parece necesitarlo ha hecho que nos cueste más dinero debido a la escasez de componentes), tiene que ver con la escasez de componentes y con los cuellos de botella. 

Las big tech están acumulando todo el hardware necesario para dar vida a sus modelos y las startups pueden verse en dificultades en un momento en el que esas big tech están subiendo el precio por el que alquilan sus equipos y potencia de cálculo. En ese escenario, recurrir a los PCs inactivos de usuarios se antoja como una buena solución, pero también blindaría a estas startups ante fallos que paralicen nubes centralizadas, como ya se ha dado en sistemas tan potentes como el de AWS.

No es bueno para tu GPU. Para el CEO de Evolving Edge, las interrupciones en la red centralizada no importaría si suficientes propietarios de GPU consideraran que el intercambio de su hardware por dinero vale la pena. El problema es que, más allá de esto, aunque pueda cubrir el gasto de la luz del usuario y un poquito más (porque si no el trato sería pésimo), está en el aire la cuestión de la degradación de los componentes.

Aún es incierto el desgaste del hardware que estaría trabajando tanto cuando nosotros lo estemos usando para jugar o trabajar como el resto del tiempo para cumplir con su tarea de cara a la IA. Ahí la pasta térmica, rodamientos y otras cuestiones entran en juego, desgastando un hardware que, como decíamos, cada vez es más y más caro... por culpa de la industria de la IA.

En Xataka |