¿Alguna vez has estado muy seguro de una idea y resultó ser falsa? ¿Porque la habías aprendido en el instituto? ¿Porque te lo había dicho una Inteligencia Artificial?
- ¿Cómo saber si algo es falso?
- ¿Hay distintos tipos de ciencia?
- ¿Es necesario el argumento de autoridad?
- ¿Es verdad lo que dice la Intelegencia Artificial?
- ¿Es la IA una herramienta a evitar?
- ¿Para qué sirve el viaje?
- ¿A costa de qué?
Entrada basada en la descripción del método científico por Francis Villatoro en el podcast LFDLC:
Y sobre todo en el libro «El viaje del conocimiento: Caminando junto a la inteligencia artificial«, de Javier Fernández Panadero, editado por Páginas de espuma en 2023. ¡Imprescindible!
¿Cómo saber si algo es falso?
Una de las grandes preguntas que podemos hacernos es ¿Cómo podemos estar seguros de algo que es falso?
Una forma de averiguarlo es contrastarlo con el mundo físico, por ejemplo mediante experimentos.
De esto se ocupa la ciencia, aunque muchos científicos que hacen ciencia no sabrían definirla.
Un filósofo de la ciencia te diría que la ciencia es algo como el conocimiento racional, sistemático, exacto, verificable y falsable sobre la realidad.
¡Muchos adjetivos!, y seleccionar algunos conlleva problemas.
La ciencia es en realidad una actividad social, y consideramos que algo es «científico» si hay un consenso entre los científicos de que lo es.
La ciencia es una actitud hacia la adquisición del conocimiento, que puede convertirse en tecnología cuando se aplica a la mejora del medio natural y artificial.
¿Hay distintos tipos de ciencia?
Tenemos muchos tipos de ciencias.
Por ejemplo: las ciencias fácticas son las que utilizan la observación y la experimentación para verificar (o bien confirmar, o refutar) sus hipótesis, que son siempre provisionales. Hay ciencias fácticas naturales (estudian la Naturaleza) y ciencias fácticas sociales (que estudian la sociedad).
Hay ciencias formales, como la lógica, la matemática y gran parte de la física teórica que buscan el conocimiento sobre entes abstractos que sólo existen en la mente humana. Sus verdades son eternas, en contraposición a las ciencias fácticas, cuyas verdades son provisionales.
La gran diferencia entre la ciencia y la pseudociencia es la actitud de quienes las practican.
Las pseudociencias se basan en dogmas y creencias, y los que practican la pseudociencia suelen afirmar que sus leyes o hipótesis son verdaderas. Las pseudociencias están hechas de respuestas.
Los científicos, por contra, deben afirmar que sus leyes e hipótesis son falsas y están en un proceso de construcción: las ciencias están hechas de preguntas, y toda respuesta conlleva muchas preguntas sin respuesta. Las explicaciones científicas se descartan o corrigen sin cesar. La ciencia está abierta, no es un sistema cerrado de conocimientos.
Volvamos a la pregunta inicial,…¿Cómo podemos estar seguros de algo que es falso? Podemos seguir el procedimiento de realizar el experimento que lo contraste con el mundo físico.
¿Es necesario el argumento de autoridad?
El problema es que hay experimentos sencillos de realizar, como comprobar que es falso que los objetos más pesados caigan más rápido, pero otros para contrastarlos requieren realizar análisis y ensayos clínicos a miles de personas y con equipos costosos.
Toma dos botellas de plástico de medio litro (una llena y una vacía) y déjalas caer. Repite el experimento con una hoja de papel estirada o arrugada y verás la razón que llevó a tantos a creer en este mito: les despistó el rozamiento con el aire.
Fuente: Javier F. Panadero «El viaje del conocimiento».
Así, la ciencia es un saber empírico, pero es imposible contrastar personalmente todas las ideas que se nos presentan.
Necesitamos trasladar nuestra confianza de la prueba empírica a la confianza en el consenso de la comunidad científica, en la esperanza de que ellos usen adecuadamente los métodos científicos y que los sistemas de publicación y revisión sean eficientes.
De esta forma estamos obligados a creer lo que nos cuentan: la ciencia requiere ser transmitida y enseñada necesariamente por argumento de autoridad.
Pero, atención, la potencia de la ciencia se basa precisamente en que es un esfuerzo colectivo, en transmitir el conocimiento adquirido y subirse a hombros de gigantes para poder ver más allá. Así que este problema o característica es algo inherente a cómo entendemos la ciencia.
Por todo esto tenemos que aceptar el hecho de que, en tu vida cotidiana, el empirismo y el espíritu crítico quedan reducidos, casi totalmente, a la consulta con fuentes fiables y al acceso a conocimiento experto.
Pero ¿y si cotejamos? ¿En qué consiste cotejar, en mirar en dos fuentes? ¿En tres? ¿Buscar en la red y elegir lo que más aparezca? ¿Lo primero que salga?
No tenemos una herramienta «formal», un «método» que pueda servir para cualquier rama del saber.
Además, nuestros referentes no son siempre fiables: Unas veces se equivocan, otras mienten intencionadamente o simplemente están desactualizados.
Entonces, ¿no hay nada que sea abstracto y que nos permita separar, al menos en parte, el grano de la paja? ¿Cualquier afirmación necesita de la consulta en documentos científicos? Afortunadamente sí lo hay. Una de tus mejores amigas en la búsqueda del conocimiento es la desconfianza. Sobre todo, de lo que uno mismo piensa, porque nuestro entendimiento ha evolucionado de forma eficiente para pasar nuestros genes a la generación siguiente, no para buscar «La Verdad».
¿Es verdad lo que dice la Intelegencia Artificial?
Los programas conversacionales, y los que crean imágenes o vídeos, la Inteligencia Artificial (IA) están en el foco de la opinión pública y en los medios de comunicación a diario. Ya se habla de revolución.
Ahora puedo ir a mi dispositivo, escribir una pregunta y obtener una respuesta razonada y explicada. No un enlace a un texto, no un vídeo, una respuesta completa, como la que me daría un experto en el tema.
¿De dónde saca su «conocimiento«? En realidad, lo que ha hecho es procesar la información accesible hasta ahora.
Estas IA han sido programadas como generadores de texto que suenen creíbles, lo que no incluye una adhesión a la verdad y por eso los datos concretos, citas, bibliografía o matemáticas, son algunos de sus puntos débiles.
Nos habíamos quedado con que la producción de conocimiento mediante los métodos de la ciencia nos parecía una buenísima forma de acercarnos a la búsqueda de la verdad y, por eso, hacemos una aproximación empírica en lo personal y acudimos a los científicos que crean conocimiento mediante este procedimiento… pero ha llegado la IA.
Por una parte, podemos entender que es un «súper buscador» y que nos devuelve conocimiento escogido proveniente del corpus común, un poco lo que hace cualquier motor de búsqueda.
Os habréis fijado que desde hace un tiempo hay buscadores que hacían algo parecido. Aunque el buscador me extraiga la información, es crucial saber la fuente y filtrar nosotros según nuestro criterio de certeza.
Aquí vemos un ejemplo en el buscador de Google. Al buscar (1) muestra un conocimiento con las fuentes (2):
Aquí te cuento más sobre los buscadores en general, con estrategias para búsqueda de información:
No es lo mismo que un influencer me diga que tengo cierto derecho a que me lo diga la página del Boletín Oficial del Estado o el Estatuto de los Trabajadores.
¿Qué ocurre cuando me dan una respuesta elaborada y sin fuentes? Todo es mucho más sencillo, pero ya no tengo control. Volvemos al estadio infantil de «mi Papá dice que» o de preguntar a un oráculo. Precisamente queríamos los métodos de la ciencia para emanciparnos de esas servidumbres.
¿Es la IA una herramienta a evitar?
¿Entonces, es la IA el mal encarnado y una herramienta a evitar? Para responder esto, necesito dividir la respuesta en dos:
En primer lugar, está su falta de cuidado en el tratamiento de información personal y la protección de la privacidad, el uso opaco de algoritmos y conjunto de datos, los sesgos ocultos que ha adquirido en el entrenamiento, el consumo de energía, los puestos de trabajo que pone en cuestión y un largo etcétera de problemas asociados a su utilización. Es fácil que las soluciones a estos asuntos pasen por la auditoría pública y una legislación que controle las derivas de la tecnología y los usos maliciosos o descuidados…. como en tantas otras cosas.
En segundo lugar, como herramienta para la adquisición del conocimiento, puede resultar muy útil… como una primera aproximación que necesita de una supervisión humana y experta (¡sorpresa!).
Por lo tanto, ¿es peligrosa? Si abandonamos todos estos años de desarrollo de la ciencia y del empirismo para aceptar a ciegas lo que dice una pantalla, sí. Muy peligrosa. Pero no demasiado diferente, en el fondo, de la actitud de aquellos que se tomaban como cierto lo que decía «la tele» o el primer resultado que les apareciera en un buscador de internet.
¿Soluciones? La misma de antes: conocimiento experto o acceso a quien lo tiene y lo produce científicamente.
¿Para qué sirve el viaje?
Aunque las IA hagan cosas mucho mejor que nosotros, siempre nos queda el viaje. Ya llevamos muchos años haciendo máquinas que juegan al ajedrez mejor que cualquier humano y sigue teniendo sentido intelectual y lúdico aprender y practicarlo. Más aún, ¿quién no ha jugado a las tres en raya con un niño? Es un juego en el que, jugando bien, no gana nadie. ¿Ese hecho le quita la función cognitiva y lúdica que tiene para un joven ese momento? ¿Y a ti, adulto, compartirla? El descubrimiento y, sobre todo, la comprensión, de que no puede ganar, ¿no es otro momento de transformación y crecimiento intelectual?
Podemos mirar hacia atrás a otras revoluciones y ver qué ocurrió, porque podría ser parecido. Con la mecanización y la industrialización de procesos a partir del siglo XIX, mucho trabajo que se hacía artesanalmente pasó a ser automatizado.
De hecho, hay una parte del pensamiento crítico que tiene que ver con la práctica necesaria en la aplicación del conocimiento experto que, precisamente, se consigue con estos «viajes».
Para la adquisición de cualquier destreza física o intelectual es necesaria la práctica (y la reflexión sobre esa práctica) para dominar los procesos e incluso poder extender y abstraer lo aprendido para la aplicación en otros entornos o problemas de características similares.
¿A costa de qué?
Hay que empezar a repensar qué es necesario y qué es accesorio. Qué cosas, aunque interesantísimas, deben ceder tiempo y espacio a otras. Aunque de todo se puede aprender, el tiempo y los recursos son limitados. Ante una acción educativa hay que preguntarse dos cosas: ¿Por qué? y ¿A costa de qué?
Hace años utilizábamos la escuadra y cartabón para trazar líneas paralelas. ¿Es una actividad interesante? Sí. ¿Enseña cosas chulas? Sí. ¿Es algo que ahora no hacemos porque hay cosas más importantes/efectivas/necesarias de las que ocuparse? Pues también.
Debemos preguntarnos qué es el arte. Con las IA generadoras de imágenes y los artistas hay muchos frentes abiertos, desde con qué derecho usan obras de arte de todos para entrenarse y si tienen que compensarles por ello, hasta si van a reemplazarles para muchos encargos donde el cliente no aprecia (ni quiere pagar) la diferencia con lo que hubiera hecho un humano.
Debemos preguntarnos qué pasa con la plusvalía que generan las IA, producidas usando conocimiento público generado en universidades, con financiación pública, con datos públicos… ¿Qué pasa si el trabajo disminuye drásticamente y debemos desligar la provisión de derechos fundamentales con estar empleado, porque no hay empleo para todos? Uniendo ambas cosas, ¿nos llevará la tecnología a un inesperado avance en lo social, a la disminución de la jornada laboral, renta básica, garantía de derechos fundamentales?
Este fenómeno de una IA que nos adelanta no es nuevo en el sentido de que ya conocemos a muchos humanos que nos sobrepasan en todas y cada una de las facetas profesionales, artísticas o lúdicas del vivir, sin que por ello nos planteemos el abandono de su práctica, ¿verdad?
Tecnología E Ingeniería 
Deja un comentario