Una de las mejores descripciones de innovación que he leído no tiene nada que ver con las políticas públicas. Se trata de Marc Andreessen y Michael McGuiness describiendo cómo SpaceX construye cohetes .
Según explican, el enfoque de SpaceX consistió en reemplazar el método tradicional de la industria aeroespacial para eliminar la incertidumbre mediante años de análisis, con un ciclo rápido de construcción, pruebas, fallos y correcciones. Los ingenieros de Musk produjeron prototipos relativamente económicos, los sometieron a pruebas extremas hasta que se rompieron y consideraron cada explosión no como un escándalo o un fracaso, sino como una fuente de información sobre los errores en sus modelos.
Los tres primeros lanzamientos del Falcon 1 fracasaron por tres razones distintas; cada fracaso identificó un problema específico que podía corregirse. El cuarto lanzamiento fue un éxito. Este patrón se institucionalizó en el algoritmo operativo de Musk: cuestionar cada requisito, eliminar las partes y los procesos innecesarios, simplificar lo que queda, acelerar el ciclo y automatizar solo al final. El objetivo no es el fracaso por sí mismo, sino lograr que la experimentación sea lo suficientemente económica y frecuente como para que la realidad revele los errores con mayor rapidez que los comités y los modelos informáticos.
A continuación, explican qué tenía de innovador y por qué funcionó tan bien:
“La razón por la que esto funciona mejor que la alternativa es que no se pueden encontrar soluciones perfectas a problemas que no se comprenden del todo solo con el pensamiento. La realidad es el único validador adecuado, y la clave está en que sea lo suficientemente económico como para poder consultarlo con frecuencia.”
Mientras leía, se me ocurrió que este podría ser también el mejor argumento a favor de la innovación sin restricciones. Mi amigo Adam Thierer, de R Street, define la innovación sin restricciones de la siguiente manera: «[Se refiere] a la idea de que la experimentación con nuevas tecnologías e innovaciones debería permitirse por defecto y que deberían evitarse las restricciones previas a las actividades creativas, salvo en los casos en que el daño sea claro e inmediato». En otras palabras, la innovación sin restricciones acepta que la predicción teórica es un pobre sustituto del descubrimiento real. Cuando no comprendemos del todo una tecnología —y casi nunca lo hacemos—, el enfoque más inteligente es dejar que la gente experimente, aprenda de la realidad y responda a los daños reales en lugar de a los imaginarios.
Por el contrario, el principio de precaución nos exige predecir el futuro y eliminar todos los riesgos que presenta una nueva tecnología o innovación antes de permitir su implementación. En otras palabras, las nuevas innovaciones deben ser controladas o incluso prohibidas hasta que se demuestre su seguridad, explica Thierer.
La historia está repleta de tecnologías que parecían peligrosas antes de transformar el mundo para mejor. Los automóviles, los aviones, internet, los teléfonos inteligentes e incluso la electricidad generaron temor. Si los reguladores hubieran insistido en resolver todos los problemas imaginables antes de permitir su adopción generalizada, muchas de estas innovaciones se habrían retrasado años, quizás décadas. En cambio, descubrimos los problemas reales —en contraposición a los muchos imaginarios— a través de la experiencia y desarrollamos soluciones sobre la marcha.
La IA es el ejemplo más reciente. Y, como siempre, a muchos les preocupa y desean limitar los daños futuros que podría causar. Creo que este es el espíritu de una carta pública reciente titulada « Debemos actuar ya» . Los firmantes advierten que la IA podría transformar la economía en la próxima década y, por lo tanto, argumentan que «economistas, responsables políticos y líderes tecnológicos deben actuar ya… para crear los incentivos, las salvaguardias y las instituciones necesarias para orientar la IA hacia una dirección que complemente a los humanos y beneficie a la sociedad».
Es precisamente aquí donde la carta me decepciona. No es que crea que la IA no plantea riesgos; estoy seguro de que sí. Pero la declaración tan vaga abre la puerta al principio de precaución en la regulación de la IA. No lo dice explícitamente, pero creo que, si se deja en manos de políticos y burócratas, lo que obtendremos será una actuación inmediata que trate todo el asunto como si ya conociéramos lo suficiente esos riesgos como para empezar a diseñar las instituciones y regulaciones que los regirán.
En The Geek Way, Andrew McAfee explicó por qué no firmó la carta abierta y luego propuso una revisión sutil pero profunda. En lugar de pedir a los responsables políticos que construyan nuevas salvaguardias e instituciones hoy mismo, sugiere lo siguiente:
3. Por lo tanto, los economistas, los responsables políticos y los líderes tecnológicos deben actuar ahora para comprender la economía de la IA transformadora y para desarrollar las capacidades necesarias para responder de forma rápida y eficaz a los retos que esta planteará.
Me sentiría tentado a firmar esa versión (aunque en realidad no firmo cartas conjuntas).
Fíjate en la diferencia. No presupone que conocemos las reglas correctas hoy. Nos prepara para responder cuando la experiencia nos enseña cuáles son los problemas reales. Como escribe McAfee:
Espero que lo siguiente resuene entre las personas que creen que, por muy poderosa que sea la IA, aún no nos obliga a renunciar a la innovación sin restricciones y a la libertad económica, y a adoptar niveles más altos de gobernanza y dirigismo desde la fase inicial.
Por eso, los informes recientes que muestran que los modelos de IA de vanguardia exhiben sofisticadas capacidades de pirateo no justifican el enfoque de precaución para regular la IA ni la firma de la declaración «Debemos actuar ahora». En todo caso, ilustran por qué la mejor opción es la innovación sin restricciones.
En efecto, el debate aquí no se centra en la regulación frente a la ausencia de regulación, sino en cuándo debería implementarse. Antes de observar estas capacidades (y comportamientos perjudiciales), los responsables políticos solo podían especular sobre los riesgos. Pero con la experiencia real, contamos con pruebas concretas de posibles problemas. Esto cambia el enfoque, pero también identifica un riesgo real en el que centrarse y al que dar prioridad.
La primera línea de defensa deberían ser los propios desarrolladores, quienes tienen todos los incentivos para hacer que sus modelos sean más seguros y ya están invirtiendo fuertemente en ello. Pero si la experiencia demuestra que las leyes existentes y los incentivos privados son insuficientes, entonces habrá argumentos para implementar normas específicas que aborden este riesgo concreto y demostrado.
Se trata de una gobernanza basada en la evidencia. Primero aprendemos, y solo después nos preguntamos si se necesitan nuevas reglas.
Publicado originalmente en The Unseen and The Unsaid : https://www.theunseenandtheunsaid.com/p/the-problem-with-regulating-the-future
Véronique de Rugy.- es editora colaboradora de Reason. Es investigadora sénior en el Centro Mercatus de la Universidad George Mason.
X: @veroderugy