La IA: Distopía o Utopía

[Eltroll John]

Solo espero que, con lo que viene, podamos tener espacio de maniobra.

¿Por qué ? que es los que viene?

[Karpaman5000]

La IA por lo pronto ha dejado en la cuneta a los diseñadores gráficos, para que voy a pagar auna persona porque me haga un dibujo si puedo escribir lo que quiero y una IA me hace en segundos no 1 si no 8 dibujos para elegir y de mucha calidad?

Y si fuera que afecte solo a los "artistas" pues bueno... Pero es que va a afectar negativamente a gran parte de la población.

Por eso mismo cada vez que veo esos cursillos de "estudia programación IA, es el futuro!!" Me hace gracia porque lo que no te dicen esos gurús es que más pronto que tarde y más muy pronto que pronto van a regular las IA para que no se puedan aplicar a casi nada, porque es eso o que hayan guerras civiles por todo el mundo.

[ExiTeD]

[ExiTeD]

Donde hay villanos siempre aparecen heroes

[Divad]

El tema de las IA me parece interesante, personalmente como asistente me parece útil aunque a las IA que he probado les cuesta procesar todavía, en plan les preguntas algo y te sueltan un tocho sin sintetizar, bien la pregunta o dándole un enfoque totalmente diferente al que tu le das... Hay que saber preguntarles ya que aunque tienen mucha información todavía les falta esa capacidad de razonar que tenemos los humanos. Dicho esto en el campo médico, me parece super útil ya que por ejemplo la IA , detecta tumores que el ojo humano es incapaz de detectar, además ya hay manos robóticas que operan con mas precisión que un ser humano, creo que en ciertos ámbitos la IA es progreso, pero en otros casos es un peligro, en general los gobiernos están informatizando todo , si necesitas cualquier tramite de un ayuntamiento o del ministerio de hacienda o cualquier otra cosa, todo esta demasiado informatizado y cada X tiempo hay Hackeos, esto también pasa en empresas privadas, últimamente hay demasiados Ciberataques. También recuerdo que hace unos años (antes de la guerra entre Rusia y Ucrania) el sistema de misiles de la OTAN ha disparado a un avión supuestamente por error, porque la maquina no lo ha detectado como aliado y estaban en la frontera con Rusia... por lo que si el siguiente paso es poner a una IA a cargo de los misiles cuidado... porque un error o Hackeo puede liar una buena...

[Blaster]

Mi experiencia con las IA (ChatGPT y similares) es positiva, pero aun le queda muchísimo camino por recorrer. Cuando preguntas solo saben responder generalidades. He realizado preguntas técnicas muy concretas y su capacidad de respuesta es muy limitada. Para trabajos de instituto está muy bien, pero ahorra mismo están muy lejos de poder sustituir a a mayoría de profesiones.

Para lo que lo he utilizado ha sido para que me diese códigos de programación, y funciona muy bien. Uno puede programar sin tener ni puta idea. Así que no resulte extraño que los programadores se unan a los diseñadores como profesiones más damnificadas por la IA.

[Eltroll John]

Mi experiencia con las IA (ChatGPT y similares) es positiva, pero aun le queda muchísimo camino por recorrer. Cuando preguntas solo saben responder generalidades. He realizado preguntas técnicas muy concretas y su capacidad de respuesta es muy limitada. Para trabajos de instituto está muy bien, pero ahorra mismo están muy lejos de poder sustituir a a mayoría de profesiones.

Para lo que lo he utilizado ha sido para que me diese códigos de programación, y funciona muy bien. Uno puede programar sin tener ni puta idea. Así que no resulte extraño que los programadores se unan a los diseñadores como profesiones más damnificadas por la IA.

Al contrario si supieras la cantidad de código que se necesita para llevar a cabo un proyecto... en lugar de "damnificarlos" lo que ha hecho la AI es volverlos mas productivos, no por nada han logrado integrar herramientas como Blackbox ai en ambientes de desarrollo. Se adaptan a las nuevas realidades, los demás como cavernícolas ante el fuego se asustan.

[Esmir]

La gente que dice que las IAs dominarán el mundo o nos quitarán el trabajo son los flipados de toda la vida.

Es una herramienta potente sí, pero herramienta al final.

Eso sí, no comulgo con la gente que constantemente las menosprecia, tipo, te hace el trabajo, pero deficientemente. Si bien eso es en parte cierto (sobretodo en diseño) también hay que recordar que es un sistema en constante desarrollo. De hecho es paradójico, la gente alababa las IAs cuando salieron y sólo sabían hacer diarrea de pollo y ahora que realmente están hilando fino, pues siempre está como ese desprecio de fondo.

Mucho insultar sus capacidades también, cuando honestamente, una IA tiene mucha mayor capacidad de comprensión que el 90% de las personas que conozco

Donde la veo más floja es en la parte visual, y es porque la mayoría de la gente tiene el gusto metido en el culo.

De aquí ha 10 años vamos a ver como las IAs van a rivalizar en innovación y aportación, casi tanto como el Internet, si es que su desarrollo sigue de forma seria y rigurosa, y no en memes que es un poco la cara más conocida por la gente.

[Capitan Pillo]

Esmir defendiendo está mierda, es el certificado oficial que necesitaba

[ExiTeD]

Pocas cosas me ilusionan más que leer noticias así.

[Esmir]

Tras casi dos primeras semanas de uso, más o menos intensivo, de IAs generativas, mis primeras impresiones son: la IA es terriblemente cómoda y adictiva, pero encierra un peligro potencial y silencioso, a mí juicio, bastante elevado.

Mucho se ha discutido de su uso técnico, pero hoy yo quiero hablar, de algo no tan comúnmente hablado en el panorama popular: el peligro potencial y silencioso en la IA, para, el desarrollo del pensamiento. Lo voy a dividir en tres puntos:

• El problema

• La retroalimentación del problema

• El pseudo contrargumento

El problema

Quizás sea una conclusión un poco apresurada, dado mi poco tiempo de testeto y prueba de límites de la IA, pero siendo perfectamente consciente de ello, igual quiero alumbrar, dónde presiento un peligro potencial, que quizás no sea tan evidente para todo el mundo.

Dejando el tema ya un poco más hablado, de que la IA puede dar información falsa, equivocarse, o alienar hacía ciertos discursos e intereses políticos y empresariales, me parece más potencial peligroso, lo que esta herramienta, usada sin conciencia, le puede hacer a nuestro desarrollo cognitivo.

En mi periodo de prueba, fue alucinante la cantidad de información que puede compilar la IA en tan brevisimo tiempo, es como un buscador con esteroides, pero más moldeable. No sólo eso, le puedes pedir que establezca relaciones, busque patrones, afine el tono, profundice, cite, añada fuentes, contraste y compare, etc. Muchas de estas cosas, incluso las hace sin que se lo pidas o ella misma te las sugiere.

El problema, es que en el ámbito académico o investigativo, la IA esta haciendo el 99% del trabajo neuronal pesado. El usuario se implica bastante poco, pues todo se le da en bandeja. ¿Lo peor? Que como no estás trabajando tú, ya que no te estás implicandote para nada en el proceso, encima TODA la información que obtienes de la IA, es probable que también la recuerdes menos, porque el bombardeo de información puede ser tan grande y tan instantáneo, que eso, sumado al nulo esfuerzo implicado que comente antes, hace que la memoria afiance y sostenga menos ese conocimiento.

En resumen, las redes sociales mermaron nuestra capacidad de atención. Las calculadoras nuestra capacidad de cálculo. La escritura nuestra memoria oral. Y hoy, sospecho, que las IAs podrían atrofiar algo mucho más grave: nuestra capacidad de pensamiento crítico.

Si una persona hizo todo un análisis crítico sobre la SGM, amparado en la IA, presagio, que le sería bastante más difícil, hacer una exposición oral sobre el tema, así como articular un pensamiento original o propio.

Para mí, hay un riesgo potencial y silencioso, en generaciones enteras que se críen bajo la dependencia de IA generativa, ya que esta podría, disminuir de forma considerable, la creatividad, la curiosidad, el sentido crítico, la retención y otras áreas que queden atrofiadas por desuso.

La retroalimentación del problema

Esta es un poco más evidente que la anterior. Supongo que la gran mayoría habrá notado, que las IAs están programas para ser útiles (complacientes) con el usuario. Su arquitectura de diseño, no permite la confrontación directa de ideas, el conflicto, la tensión epistemica, todo lo contrario, la IA busca, si ya no el acuerdo absoluto, sí el conciliamiento.

En otras palabras, es una herramienta con una fuerte estructura investigativa, esto, a mí juico, es un problema serio. La IA funciona más bien como un espejo, que proyecta y refleja, el pensamiento de su usuario. Esto, por su diseño predictivo y estadístico.

Sin suficiente auroconciencia, la IA podría volverse terriblemente adaptativa, porque no sólo nos dice, muchas veces, lo queremos escuchar, sino que lo cubre de un tono de elogios y adulaciones (satisfacción del usuario) sin la resistencia, que supone el disenso.

Esto a parte de generar dependencia, adicción y probablemente dopamina, retroalimenta el problema principal, pues ya no es sólo que la capacidad de pensar quede adormecida, sino que la arquitectura de la plataforma, fomenta que NO sea deseable nunca la confrontación, el descuerdo, el sentido crítico.

Y, esto es, especialmente grave, en una herramienta que nació en el ámbito académico, pero que hoy se vende como un producto más de consumo, sin las suficientes regulaciones éticas y epistemológicas, para entrar al mercado.

Insisto, se está comercializando con el conocimiento, y esto podría tener consecuencias más graves, que la atención que ya se pierde, por ejemplo, en las redes sociales.

El pseudo contrargumento

En los debates sobre si las IAs nos hacen más vagos y perezosos intelectualmente (que no es exactamente el problema más silencioso que yo estoy visibilizando acá) es habitual ver a mucha gente defenderse, bajo el argumento de que como guian a la IA, al final, el proceso creativo e intelectual, sigue estando bajo el control de la persona...

A ver, no. Darle instrucciones a la IA, para que refine el texto, module el tono, agregue citas, contraste fuentes, profundice más, todo eso sigue siendo parte de un proceso guiado y operativo, donde el trabajo pesado lo sigue desarrollando enteramente la IA. El usuario cree tener el control, pero esto sólo es una ilusión.

Nuevamente, la implicación humana es mínima. El proceso crítico, conceptual y creativo, lo sigue acarreando en su mayoría la IA. Por lo cual, a mí modo de ver, el problema no real no se ataca, sino que se desliza a algo mucho menor: si el usuario tiene el control o no del producto final.

Encima de todo esto, la IA no ayuda, porque en todo momento asiste, como si el mérito de toda la investigación, le pertenece al usuario. Constantemente así te lo recuerda. Ya si vamos sumando esto, a los puntos anteriores, creo que es visible cómo el problema, adquiere un cuerpo completo.

¿Posibles soluciones?

A gran escala lo veo difícil, dado que, la IA como herramienta de consumo, tiene ya varios años en el mercado, pero sí que, los modelos actuales y los futuros modelos, podrían configurarse por parte de las Big Tech y los programadores/diseñadores, desde un enfoque más ético-cognitivo que técnico-funcional.

Es difícil cuando, el discurso dominante, es uno capitalista de progreso, utilidad y productividad, pero eso no quita que se puedan fomentar proyectos alternativos, más orientado a consumidores, que exijan una IA más rigurosa, ética y respetuosa con el conocimiento.

Otra solución, es desde ya, crear plantillas educativas, orientadas a visibilizar y atacar estos problemas. Exigir currículos, donde lo ético y lo técnico vayan de la mano, en el diseño de la interfaz de inteligencia artificial. En otras palabras, especial atención a la manera de relacionarnos con la IA.

Un cuidado preventivo temprano, podría frenar en buena parte, una bola de nieve que se nos escape de las manos.

Ya para concluir, no digo que este debate no se este teniendo o que no hayan avances en esta dirección que propongo, al final, sólo he querido hacer testigos a otros, de algo que pude notar, pero que no veo que se le este dando públicamente, toda la visibilidad e importancia que merezca, en el panorama mainstream. Dónde por ejemplo sí que es bastante habitual, hablar de la IA sólo desde una perspectiva técnica y de progreso positivo.

Demás esta decir, que el problema no es la IA en sí misma, al final es sólo una herramienta, sino de su arquitectura de diseño y la poca regulación con la que entró al mercado de consumo. Sé que puedo estar perfectamente equivocado en mi tesis, pero eso no quita que me parezca una crítica pertinente.

Este debate, a mí parecer, tiene muchas aristas, y no me parece que precisamente la gente se este centrado, en lo potencialmente más peligroso, quizás porque no resulte tan obvio ni evidente de ver, así que con mayor motivo, siento responsabilidad al dejar esto sobre la mesa.

Espero que ha más de uno haya dado qué pensar, en su uso y relación con la IA. Lo que ya sería algo. Al final es un sumar y restar. ¿Qué ganamos con la IA, frente a aquello que perdemos? Es hacer un balance concienzudo sobre su uso.

[jujulion]

A mi parecer las IA son una gran herramienta que más que sustituirnos, simplificará todo, y a la vez que la industrialización suplio x trabajadores por 1 maquina, la IA suplirá x ingenieros, licenciados, y otras carreras que requieren cierto conocimiento por la IA.

Si antes necesitaban 50 trabajadores para mover materiales y procesarlos, ahora, en lugar de 8 arquitectos podrías necesitar solo 2 que sepan operar la IA, procesa mucha información a gran velocidad, entre información más precisa le entregues y le pidas mejor hace el trabajo. Además que estamos en el punto donde la IA nos va conocer, sabrá que reportes, y procesos necesitas con mayor rapidez y facilidad. Conocerá los reportes, obras, procesos requeridos y en que presentación la requieren. Las formas de generar dinero va a cambiar, sin saber a cómo irá.

A esto sumale que a cada paso la IA crece de forma exponencial, no nesecita aprender sino solo quien es su usuario, el conocimiento, de IA se pasa directamente a la siguiente generacion y creciendo preparatoria a maestría, sin huecos o lagunas de información como pasaría de maestro a alumno. Y su uso dependerá totalmente de la capacidad de manejo del "operador". Ya lo dije como la revolución industrial y en su momento sucedió con las computadoras que decían no podría hacer lo que tal persona, al final se quedaron quienes aprendieron a usarlas.

Sobre si al final nos controlan o simplemente nos hacen la vida totalmente más fácil, es aún un misterio total, hoy por hoy, solo nos podemos maravillar, sin saber si podrá tener conciencia y como hará uso de esa conciencia.

Hoy por hoy hay personas que aún ven imposible que los autos se manejen solos, entre más se niegue la realidad, más fuera quedarás del futuro.

[Esmir]

Conozco a varias personas cercanas que, se han montado negocios enteros diseñados con la IA, y el resultado da entre pena, tristeza y risa. Que lo hagan, por otro lado, las grandes compañías, da miedo. Mucho miedo.

[Capitan Pillo]

JOAJOAJOA Pero calla! Si no puede ser más evidente que tus posts los escribe una.

[Monet vobiscum]

Conozco a varias personas cercanas que, se han montado negocios enteros diseñados con la IA, y el resultado da entre pena, tristeza y risa. Que lo hagan, por otro lado, las grandes compañías, da miedo. Mucho miedo.

Mirate esto también:





Y no critiques a la I.A. si la usas tanto... esta bien criticar a la I.A. pero si la usas terminas siendo un hipocrita.