jakiro
Autor: Cynic, Shigeru
Guía:Utilizando el poder de los algoritmos, la potencia informática y los datos, el avance de la tecnología AI está redefiniendo el límite entre el procesamiento de datos y la toma de decisiones inteligentes.Al mismo tiempo, DEPIN representa el paradigma de red centralizado y basado en blockchain en la infraestructura centralizada.
A medida que el mundo avanza hacia la transformación digital, AI y Depin (infraestructura física descentralizada) se han convertido en las tecnologías básicas para promover la reforma de todos los ámbitos de la vida.La fusión de IA y DePin no solo puede promover la rápida iteración y la aplicación de la tecnología, sino que también abrir un modelo de servicio más seguro, transparente y eficiente para generar cambios de lejan economía global.
Depin: descentralización y deficiencia, el pilar de la economía digital
Depin es una abreviatura de la infraestructura física descentralizada.En un sentido limitado, Depin se refiere principalmente a la red distribuida de infraestructura física tradicional compatible con la tecnología de contabilidad distribuida, como redes de energía, redes de comunicación y redes de posicionamiento.En un sentido amplio, todas las redes distribuidas compatibles con equipos físicos pueden llamarse Depin, como redes de almacenamiento y redes informáticas.
>
De: Messari
Si Crypto ha traído cambios descentralizados a nivel financiero, entonces Depin es una solución descentralizada en la economía real.Se puede decir que POW Mining Machine es un depin.Desde el primer día, DePin es el pilar central de Web3.
AI tres elementos -algoritmo, potencia informática, datos, depin monopolizarlo
Por lo general, se considera que el desarrollo de la inteligencia artificial depende de tres elementos clave: algoritmos, potencia informática y datos.El algoritmo se refiere al modelo matemático y la lógica del programa del sistema de IA de la unidad.
>
¿Cuál de los tres elementos es el más importante?Antes de la aparición de ChatGPT, las personas generalmente piensan que es un algoritmo, de lo contrario, las conferencias académicas y los documentos de revistas no se llenarán de fina por los algoritmos.Después de la aparición de Chatgpt y LLM, que respalda su inteligente LLM, la gente comenzó a darse cuenta de la importancia de los dos últimos.El poder informático masivo es el requisito previo para la producción del modelo.
En la era de los modelos grandes, la IA ha cambiado de la talla fina a los ladrillos voladores vigorados.Los tokens están inspirados para aprovechar el mercado de la cola larga.
La descentralización de AI no es una opción, sino una opción obligatoria
Por supuesto, algunas personas preguntarán, la potencia informática y los datos están disponibles en las salas de computadoras de AWS, y son mejores que depinar en términos de estabilidad y experiencia.
Esta declaración naturalmente tiene sentido.¿Por qué?Porque solo las grandes compañías de Internet tienen suficientes datos de alta calidad y el poder informático respaldado por fuertes recursos financieros.Pero esto está mal, la gente ya no quiere ser manipulada por los gigantes de Internet.
Por un lado, la IA centralizada tiene riesgos de privacidad y seguridad de datos, que pueden revisarse y controlarse;
>
De: https://www.gensyn.ai//
Los seres humanos no deben necesitar una edad de Ai Martin Luther, y las personas deberían tener el derecho de hablar directamente con Dios.
Mire Depin: la reducción de costos y la eficiencia es la clave
Incluso si deja de lado la disputa entre la descentralización y los valores centralizados, desde una perspectiva comercial, el uso de Depin para AI aún es deseable.
En primer lugar, debemos darnos cuenta claramente de que, aunque los gigantes de Internet han dominado una gran cantidad de recursos de tarjetas gráficas de alto nivel, la combinación de tarjetas gráficas de consumo dispersas en las personas también puede constituir una red de alimentación informática muy considerable, es decir, es decir, es, es decir El efecto de la cotización larga de la potencia informática.Este tipo de tarjeta gráfica de consumo es realmente muy alta.Mientras los incentivos dados por DePin puedan exceder la factura de electricidad, el usuario tiene la motivación para contribuir a la red.Al mismo tiempo, todas las instalaciones físicas son administradas por el propio usuario.
Para los datos, la red DEPIN puede liberar la disponibilidad de datos potenciales a través de la computación de borde y otros métodos, y reducir los costos de transmisión.Al mismo tiempo, la mayoría de las redes de almacenamiento distribuidas tienen automáticamente funciones de desagradable, reduciendo el trabajo de limpiar los datos de capacitación de IA.
Finalmente, la economía criptográfica traída por DePin mejora el espacio de tolerancia a fallas del sistema, que se espera que logre una situación ganadora de proveedores, consumidores y plataformas.
>
De: UCLA
En caso de que no lo crea, la última investigación de UCLA muestra que el uso de cálculos descentralizados bajo el mismo costo ha logrado un rendimiento 2.75 veces en comparación con el grupo de GPU tradicional.
¿Qué desafíos encontrará Aixdepin?
Elegimos ir a la luna en esta década y hacer lo otro, no porque sean fáciles, sino porque son Hart.
—— John Fitzgerald Kennedy
El uso del almacenamiento distribuido Depin y la computación distribuida para construir un modelo de inteligencia artificial sin confianza todavía tiene muchos desafíos.
Verificación de trabajo
En esencia, la calculación de modelos de aprendizaje profundo y la minería de POW se calculan generalmente, y la capa inferior son los cambios de señal entre los circuitos de la puerta.En Macro, POW Mining es un «cálculo inútil». y la derivación inversa calcula los valores de parámetros de cada capa en el aprendizaje profundo, construyendo así un modelo de IA eficiente.
El hecho es que la «computación inútil», como la minería de POW, usa funciones hash. La salida de cada capa se usa como entrada de la última capa.
>
De: AWS
La verificación del trabajo es muy crítica.
Un tipo de idea es permitir que diferentes servidores realicen las mismas tareas informáticas y verificar la efectividad del trabajo repitiendo y probando si lo mismo es lo mismo.Sin embargo, la mayoría de los cálculos del modelo no son ciertos, y los mismos resultados no pueden reproducirse incluso en un entorno de cálculo exactamente, y solo pueden ser similares en estadísticamente.Además, los cálculos repetidos conducirán a un rápido aumento en los costos, lo cual es inconsistente con los objetivos clave de la reducción y eficiencia de los costos de depósito.
Otro tipo de idea es el mecanismo optimista.
Paralelización
Como se mencionó anteriormente, la circulación de DePin es principalmente el mercado informático de nivel de consumidor largo, lo que está destinado a que la potencia informática que un solo dispositivo puede proporcionar es relativamente limitada.Para los grandes modelos de IA, el tiempo de entrenamiento en un solo dispositivo será muy largo.
La principal dificultad de la paralelización de la capacitación de aprendizaje profundo es la dependencia entre las tareas de la parte delantera y trasera.
En la actualidad, la paralelización de la capacitación de aprendizaje profundo se divide principalmente en paralelo y modelo paralelo.
Los datos paralelos se refieren a la distribución de datos en múltiples máquinas.Los datos paralelos son efectivos cuando la cantidad de datos es grande, pero debe sincronizarse con parámetros agregados.
El modelo paralelo es cuando el tamaño del modelo no se puede colocar en una sola máquina, y el modelo se puede dividir en múltiples máquinas, y cada máquina guarda parte de los parámetros del modelo.Se requieren diferentes máquinas para comunicarse entre la comunicación hacia adelante e inversa.El modelo paralelo tiene una ventaja cuando el modelo es grande, pero la sobrecarga de comunicación cuando se propaga es grande.
Para la información de gradiente entre diferentes capas, se puede dividir en actualizaciones sincrónicas y actualizaciones asincrónicas.La actualización sincrónica es simple y directa, pero aumentará el tiempo de espera;
>
De: Stanford University, Parallel and Distributed Deep Learning
privacidad
El mundo está desencadenando la ola de protección de la privacidad personal, y los gobiernos de varios países están fortaleciendo la protección de la privacidad y la seguridad de los datos personales.Aunque la IA usa una gran cantidad de conjuntos de datos públicos, también son datos de usuario patentados de diferentes modelos de IA.
¿Cómo obtener los beneficios de los datos propietarios durante el proceso de capacitación sin exponer la privacidad?¿Cómo garantizar que los parámetros del modelo AI construidos no se filtren?
Estos son dos aspectos de la privacidad, la privacidad de los datos y la privacidad del modelo.La privacidad de los datos está protegida por los usuarios, y la protección del modelo de privacidad es construir una organización modelo.En los casos actuales, la privacidad de los datos es mucho más importante que la privacidad del modelo.
Una variedad de soluciones están tratando de resolver el problema de la privacidad.El aprendizaje federal está capacitado en la fuente de datos, y los datos se dejan localmente, y los parámetros del modelo se transmiten para garantizar la privacidad de los datos;
Análisis de casos: ¿Cuáles son los proyectos de alta calidad en el mercado?
Genesínico
Gensyn es una red informática distribuida para capacitar a los modelos de IA.La red utiliza una capa de blockchain basada en Polkadot para verificar si la tarea de aprendizaje profundo ha sido ejecutado correctamente y desencadena el pago por comando.Establecida en 2020, se reveló una ronda de financiamiento de $ 43 millones en junio de 2023, y a16Z liderado.
Gensyn utiliza metadatos basados en el gradiente basados en el proceso de optimización basado en el gradiente para construir el certificado del trabajo de ejecución, y se implementa mediante un protocolo preciso de granuaciones y un dispositivo de evaluación cruzada basada en gráficos para permitir la operación y el trabajo de verificación y la consistencia . Al final, la cadena se confirma para garantizar la efectividad del cálculo.Para fortalecer aún más la confiabilidad de la verificación del trabajo, Gensyn introdujo la promesa de crear incentivos.
Hay cuatro tipos de participantes en el sistema: sumitidores, solución, verificaciones y reporteros.
• Los presentadores son el sistema del sistema, que proporcionan tareas que se calcularán y pagan la unidad de trabajo completa.
• El dispositivo de solución es el principal trabajador del sistema.
• El dispositivo de verificación es la clave para vincular el proceso de entrenamiento no confirmado con el cálculo lineal.
• El reportero es la última línea de defensa.
La persona de la solución debe comprometerse, el reportero inspecciona el trabajo de la solución.
Según el pronóstico de Gensyn, se espera que el plan reduzca el costo de capacitación a 1/5 del proveedor centralizado.
>
De: Gensyn
Fedml
FEDML es una plataforma de aprendizaje automático de cooperación descentralizada para la descentralización y la IA colaborativa a cualquier escala en cualquier lugar.Más específicamente, FEDML proporciona un ecosistema MLOPS que puede entrenar, implementar, monitorear y mejorar continuamente los modelos de aprendizaje automático, y al mismo tiempo cooperar en datos combinados, modelos y recursos informáticos en la forma de proteger la privacidad.Establecido en 2022, FEDML reveló un financiamiento de la ronda de semillas de $ 6 millones en marzo de 2023.
FEDML está compuesto por dos componentes clave: FEDML-API y FEDML-Core, respectivamente, que representan API de alta gama y API subyacentes, respectivamente.
FEDML-Core incluye dos módulos independientes de comunicación distribuida y capacitación en modelos.El módulo de comunicación es responsable de la comunicación subyacente entre diferentes trabajadores/clientes, basado en MPI;
FEDML-API se basa en el núcleo FEDML.Con el núcleo FEDML, los nuevos algoritmos distribuidos se pueden lograr fácilmente utilizando una interfaz de programación de clientes.
El último trabajo del equipo FEDML demuestra que el uso de FEDML Nexus AI para llevar a cabo el razonamiento del modelo de IA en el consumidor GPU RTX 4090, que es 20 veces más barato que el A100 y 1.88 veces más rápido.
>
De: fedml
Perspectiva futura: DePin trae democracia de IA
Un día, AI se convirtió en AGI.
La integración de AI y DePin ha abierto un nuevo punto de crecimiento tecnológico, proporcionando enormes oportunidades para el desarrollo de la inteligencia artificial.DePin proporciona a AI una gran cantidad de potencia informática distribuida y datos, lo que ayuda a entrenar un modelo a gran escala y lograr una inteligencia más fuerte.Al mismo tiempo, DePin también ha hecho que la IA se desarrolle en una dirección más abierta, segura y confiable para reducir la dependencia de la infraestructura de un solo centro.
Esperando el futuro, AI y DePin continuarán desarrollándose.La red distribuida proporcionará una base sólida para capacitar a modelos de gran tamaño, y estos modelos desempeñarán un papel importante en las aplicaciones Depin.Mientras protege la privacidad y la seguridad, la IA también ayudará al protocolo de red Depin y la optimización de algoritmos.Esperamos que la IA y DePin traigan mundos digitales más eficientes, justos y más creíbles.
