Volver a la página anterior
Si quieres traducir este articulo puedes contactarme.
If you want to translate this article you can contact me.
Publicado el: 26 de Marzo del 2025
Por: Locky
Esta entrada al blog fue un ensayo para mi universidad sobre las inteligencias artificiales, debido a que me hubiera gustado haber añadido un poco más de mis palabras al ensayo, decidí para esta versión agregar dos nuevos temas, siendo este, la primera entrada al blog con dos introducciones y conclusiones, esto se debe que decidí no modificar ni mezclar mi ensayo con los temas extras, así que, leerán lo que exactamente escribí para mi universidad.
Parece que fue ayer que inició la pandemia de covid-19 y recuerdo perfectamente como la gente poco a poco, comenzó a hablar más sobre las inteligencias artificiales. Yo ya tenía una postura clara sobre esta nueva modalidad (que ya existía desde hace muchos años) pero no me esperaba que se volviera de manera rápida un aditamento a nuestra forma de hacer las cosas, incluso si una persona se negara a usar IA para hacer sus actividades como su tarea, investigaciones, conversación o simple entretenimiento, tarde o temprano se encontraría con material hecho con IA que usará para su tarea, un proyecto escolar, su presentación de diapositivas o un video casero. Afortunada o desafortunadamente estamos rodeados de la IA y su popularidad así como su profesionalización y estudio creció de manera exponencial incluyéndose como materias en algunas carreras o hasta convirtiéndose en carreras. Vemos que todas las industrias han implementado IA de mayor a menor medida ya sea para los consumidores o una forma de publicitarse o simplemente para facilitar o acortar el desarrollo de las producciones, esto puede salir bien como la película de Spider-Man: A través del Spider-Verso que utilizó IA para predecir líneas y expresiones faciales y otras muy malas como el videojuego Call Of Duty: Modern Warfare 3 que utilizó IA para remplazar a los artistas despedidos por Microsoft tras la compra de Activion Blizzar/King. Vuelvo a mencionar que el uso del término Inteligencia Artificial solo queda en una estrategia de mercadotecnia, ya que esto no era la primera vez que sucedía, antes de la adopción de la inteligencia artificial en el contexto más general, la inteligencia artificial solo se refería a simplemente como algoritmos o series de instrucción que hacia un determinado objeto (como por ejemplo un personaje no jugable de un videojuego) en el entorno que le rodea, con la capacidad de aprender o por lo menos tener una amplia variedad de variables de acuerdo a su situación (como las máquinas que juegan ajedrez), las empresas usaban la palabra “Machine Learning” para referirse a este tipo de avances luego pasamos a usar “Inteligencia Artificial”, yo sé que es casi lo mismo y técnicamente así funcionan la gran mayoría de las inteligencias artificiales, pero no hay que negar que gran parte de estos términos solo son publicidad para atraer inversores o mantenerse “al corriente de la industria” y ganar más clientes, esto ha ocasionado un cierto odio y rechazo de las inteligencias artificiales que no nos permiten ver las ventajas y el verdadero uso que le podemos dar en muchos ámbitos sin tener que recortar personal o tenerle miedo (miedo impuesto por las propias empresas que empujan a más gente a usar IA para todo). En este pequeño ensayo, abordaré los usos donde podemos darle verdaderamente a la inteligencia artificial en el ámbito profesional y la ética que conlleva no solo programarlos, desarrollarlos e implementarlos, si no, también la ética al usarlo, las implicaciones sociales y como ya está afectando partes de nuestra sociedad y entorno en el que vivimos.
¿La inteligencia artificial tiene buenos usos? Por su puesto, pero inclusive, no vemos el potencial que puede tener la IA para nuestra sociedad, no quisiera divagar y pasarme a temas ideológicos y políticos, pero tiene mucho que ver con la situación actual de las inteligencias artificiales (en los lugares donde se le puede dar un correcto uso), también lo abordaremos en la ética, pero antes, debemos recalcar algo, todas las IA no son más que algoritmos que puede aprender como mejorar un determinado proceso o instrucción que se le da, pero hasta ahora no existe una máquina o inteligencia realmente consciente y que dude de sus acciones o de las acciones que se le pide.
En una definición de objetivos clave para implementar una inteligencia artificial seria:
Esto se puede ver en las fábricas y cadenas de suministros, ya que fueron una de las primeras industrias en implementarlo, el software analiza los datos de la producción y toma decisiones para la empresa, por ejemplo, cuanto y cuando se debe producir dicho producto, reduciendo costos de inventario, al igual que, también ha ayudado en seguridad con sensores de detección de movimiento que pueden monitorizar y alertar a los trabajadores de cualquier peligro potencial, por último, se puede analizar y detectar patrones de fallos en las máquinas, prediciendo los tiempos de mantenimiento.
En este caso cumple los cuatro puntos principales para implementar una inteligencia artificial:
Otros procesos y puntos importantes sería la calidad de la fabricación, con un sistema de visión de computadora, puede escanear productos, compararlo e identificar defectos en su producción.
¿Esto quiere decir que la inteligencia artificial solo funciona en la industria manufacturera? A como vamos si, pero tampoco tenemos que negar que existe implementación fuera de las fábricas y que han salido demasiado bien y ha ayudado a muchas personas. Un ejemplo de eso es en el uso de IA para reducir el desperdicio de alimentos en cadenas de suministros al momento del procesamiento y empaquetado.
Otro ejemplo muy importante, es en la industria médica, sus ventajas son muy claras, ayudan a detectar errores en la descripción y efectos a fármacos. Para lograrlo, lo integra con la información obtenida por el médico por medio del expediente clínico, sistemas de información de laboratorios, archivos e imágenes, patología y análisis de los pacientes. ¿En qué ayuda esto? A mejorar la relación médico-paciente (el principal objetivo de la implantación de las IA en la industria), me explico, el 12% del tiempo laboral de los médicos son con contacto a pacientes en el hospital, la causa de esto se debe a las tareas administrativas y hasta cierto punto burocráticas que limitan el tiempo de asistencia. La implementación de las IA “libera” de actividades repetitivas como la elaboración de notas médicas, solicitudes y revisión de estudios clínicos ayudando a mejorar la eficiencia de los médicos y disminuye la fatiga laboral. Permitiendo tener más tiempo con los pacientes pudiendo atender asuntos más complejos del paciente. Mencioné la palabra libera entre comillas, ya que en cierto modo no nos aleja de esos trabajos administrativos, pero si reduce el tiempo de hacerlo y verificarlo, ya que, aunque no nos guste (o a los inversionistas) si o si tendremos que intervenir para verificar que el proceso sea el correcto.
En estos ejemplos vemos buenos usos de la IA, que en papel, no busca remplazar la mano de obra humana, si no, complementarla, que sea una herramienta más que sirva a la eficiencia y reducción de tiempo en la producción y trabajos repetitivos. Esto puede traer ventajas para los trabajadores que utilizan inteligencias artificiales. (En esta paracentesis no encontré mucha información, ya que la mayoría de las fuentes se basan en el capital, aunque pude encontrar puntos enfocados para el trabajador, así que algunos puntos son con base en la situación laboral actual, con criterio):
En estos puntos hablo especialmente del obrero, el trabajador de a pie que va a la oficina, tienda, fabrica o cualquier centro de trabajo. Lo menciono porque de nuevo, la IA no debe remplazar al humano, por más que soñemos por la automatización de los procesos repetitivos, si o si requerirá mantenimiento, no solo al software y/o el hardware que hará ese trabajo sino también la supervisión humana de que lo que se está haciendo es correcto. ¿Por qué lo menciono? En los últimos años se ha implementado IA para todo, remplazando grupos enteros de trabajo que termina afectando a la empresa e inclusive a los medios de producción, productividad laboral y convivencia humana, esto es un dilema que se ha puesto en duda ¿Si esto ayudará a reducir los tiempos, cosos y mano de obra de la producción y servicio? ¿Por qué seguimos viendo a trabajadores explotados, horanalgismo y deficiencia en productividad en las empresas que se ha implementado IA? Esto se debe a la falta de ética, valores y un mal uso de las inteligencias artificiales en los centros de trabajo y que en cierta parte ha generado un odio hacia estas inteligencias artificiales que no ha permitido ver los verdaderos usos que se le puede dar.
Primero hablaremos del tema del último párrafo del anterior tema. Uno de las “ventajas” de la IA es que ayuda a la realización de tarea, pero debemos saber (especialmente las empresas) como implementamos una inteligencia artificial. Tomemos por ejemplo un servicio de mensajería de asistencia por un robot, el robot puede preguntarte cosas específicas por ejemplo (tomemos por ejemplo un servicio de paquetería), el robot hará preguntas u opciones clave, por ejemplo: ¿Quieres rastrear tu paquete?, Mi paquete me marca como recibido, pero no llegó a mi domicilio, el proceso para realizar la devolución de mi paquete y ubicación/datos del servicio postal. ¿Qué tiene de común estas opciones? Que son preguntas y opciones cuyas respuestas y soluciones son exactas, es decir información que no cambiará por un largo periodo de tiempo.
¿Quieres rastrear tu paquete? Por favor proporciona el número de guía, ¿Cuál es el proceso para realizar la devolución de mi paquete? Primero marca la opción de devolver y genera una ficha, una vez generada la ficha, rellena los siguientes datos y entregalo a la oficina postal, ¿Cuál es la ubicación y datos del servicio postal más cercano? La oficina más cercana está en la calle 26 colonia salvador con horario de lunes a viernes 8AM a 8PM.
Pero cuando son preguntas u opciones que pueden cambiar en corto tiempo o son casos demasiados especifico y complejos, se requiere si o si de una intervención humana. A lo que voy con esta analogía, es que la implementación de una inteligencia artificial debe ser realista, de acuerdo a una necesidad real que permita disminuir una tarea repetitiva. Un ejemplo de esto es la empresa Air Canada, en la implantación de IA de su “chatbot” de atención a clientes, le mencionó a un cliente al cliente que tenían tarifas reducidas para viajes reservados a última hora por tragedias. La empresa se negó aun si la condición era 90 días después de notificación/reserva, lo que pasó fue una irresponsabilidad y manejo de información y condiciones de uso, la empresa se defendió diciendo que era “una entidad legal separada responsable de sus propias acciones”, obviamente si remplazas a un humano por una máquina debes verificar que la información que le des y maneje sea correcta, el tribunal rechazó el argumento y obligó a la empresa a dar una reparación monetaria de los daños. Al final se sabe que muchas empresa, por estar al corriente, usan IA de terceros para implementarlo de una manera muy floja a sus servicios, de hecho solo son ChatGPT disfrazados de servicios de atención a clientes, otro caso fue la alucinación de un chatbot que envió un enlace de prevención de suicidio a clientes satisfechos con el servicio sin ninguna razón. La inteligencia artificiales funcionan cuando se le da una misión concreta, pero no están preparadas a los sentimientos y modismo que puede emplear un humano.
El mal uso que se le puede dar la IA se divide en dos partes:
Debería decir "Air"
Aquí un ejemplo de la falta de supervisión, en la versión original eran unas tuercas, la IA confundió y convirtió en círculo las tuercas, la comunidad lo reparó con un MOD.
¿Porqué pasa esto? Es una mezcla de muchos problemas sociales y económicos, los empresarios y sus empresas velan por el capital y están dispuestos a ahorrar hasta el ultimo centavo con ver ganancia, sacrificando de por medio a trabajadores, servicios y productos. En los puntos que mencione sobre los beneficios a los trabajadores, no se cumplen realmente por el mismo argumento, desgraciadamente tenemos una visión muy glorificada al trabajo, creemos que estando más tiempo en la oficina o en un centro de trabajo significa que estamos siendo productivos, esto se traduce que, por más herramientas que se implemente que ayude a la productividad jamas se plasmará esos beneficios a los trabajadores, solo al bolsillo de unas cuantas personas, haciendo que, todas estas herramientas, sean inútiles, que el aumento de la productividad y su calidad sea nula y que no soluciones o muestre un signo de progreso para lo que se busca realmente con las inteligencias artificiales. Como algo así:
Si realmente queremos ver un beneficio de las inteligencias artificiales deberíamos ver el problema que hay en el factor social al rededor del trabajo identificarlo y cambiar la mentalidad que pueda beneficiar tanto a los trabajadores como también a las empresas que buscan la automatización y la optimización de los trabajos, no la implementación o remplazo total de los humanos en los medios de producción y centros de trabajo, si buscáramos esto, estaríamos dando pasos atrás y las inteligencias artificiales solo servirían como un efecto placebo.
En una mala implementación de las inteligencias artificiales, puede causar:
Todo esto conduce al dilema de la ética, la ética en las inteligencias artificiales y no solo a su programación e implementación sino también, a como lo usamos. En la programación e implementación de la IA, la ética se incluye en el manejo y privacidad de los datos, la imparcialidad y transparencia, la alineación de valores y la confianza. Cosa que mucho de estos puntos no se están tomando a consideración. Hubo escándalos como Adobe que utilizaría los proyectos locales de sus usuarios que usaran algún producto de Adobe para entrenar modelos de inteligencias artificiales, los usuarios protestaron y se paró dicho proyecto, aunque esto no impidió que otras empresas como Microsoft y Slack utilicen las creaciones de sus usuarios para entrenar IA.
Realmente no existe una ventaja no tener ética en la producción de IA, lo único que favorecería sería a los gobiernos y empresarios en crear armas o instrumentos de censura, ejemplo hay mucho, el que armó un total escándalo y duda que estamos llegando demasiado lejos y fue la creación de un arma centinela motorizada (aunque no usaba balas reales) controlado por comandos de ChatGPT, al punto de que la OpenAI desactivó el acceso a la API. Las armas autónomas son algo que se está volviendo bastante popular en los ejércitos, como drones manejados por IA, pero ponen en duda si la letalidad de estar arman es realmente ético y justificable en pro de la precisión y eficiencia en él combato.
Es importante tomar en cuenta una moral que guíen el comportamiento humano y fundamentan decisiones en marco de valores, especialmente porque las inteligencias artificiales pueden transformar y reforzar procesos de toma de decisiones en los que intervienen personas y se expresa un riesgo que debe ponerse en duda desde la ética, para esto propongo puntos para lograr una IA ética.
Y lo más importante:
La falta de la ética conduce a usar las inteligencias artificiales de una manera errónea y hasta cierto punto ilegales. Uno del primeros usos erróneos que se le comenzó a dar las IA fue el desnudar a gente (deepfake) hubo una controversia, ya que se prestaba a desnudar a personas y divulgar fotos faltas sobre estas, algunas de estas IA ya no son tan populares y algunas son estafas, el deepfake o suplantación de identidad también lograron crear desinformación como utilizar la cara de AMLO y noticiero milenio para promocionar una supuesta aplicación de inversión a PEMEX (aunque los más vivos no cayeron porque todos sabemos que AMLO no habla rápido(un poco de chiste)) este tipo de situaciones también se liga a la suplantación de identidad donde hay perfiles en redes sociales de personas que no existen, generalmente para crear anzuelos para robo de identidad y estafas.
La pornografía se vuelve algo más fácil de hacer y está por lo general, ligado a estafa o ilegalidad, entre los casos menos graves nos encontramos a usuarios creando IA para hacer pornografía de ciertos personajes ficticios de videojuegos y anime y en el caso más grave crear pornografía y/o imágenes dudosas de personas con rasgos de menores de edad. Lo último fue muy sonado por la existencia de varios de estos perfiles en Twitter que causó la eliminación de muchas cuentas, por desgracia esto sucede en TikTok e Instagram.
Por último y creo que es lo más peligroso, la de-sensibilización de la violencia con videos violentos y fuerte (gore), a pesar de que es (desgraciadamente) fácil encontrar este tipo de material, se ha visto una especia de “moda” rebajar estos videos “gore” utilizando IA para cambiar a las personas por personajes infantiles, el ejemplo muy sonado fue los minions, varios videos gore en TikTok fueron publicados utilizando IA para utilizar los personajes de los minions (#aiminiongore) y así pasar el algoritmo que vigila y bloquea estos materiales, esto es peligroso, ya que, si pasa a otras plataformas, facilitaría que este contenido llegue a los más pequeños.
También conocido como BazofIA, es el contenido más genérico donde se muestra la falta de valores y ética al momento de utilizar IA. El caso más sonado y utilizado para referirse a slop es el ya famoso “Jesús Camarón” o las múltiples imágenes de niños en áfrica con creaciones hechas con botellas de plástico, este sería el caso “menos dañino”, ya que su objetivo es tener retención de audiencia y con esto mostrar más publicidad para generar ganancias monetarias.
En la política, se ha mostrado información falsa y sensacionalismo en desastres naturales y situaciones/crisis sociales ya sea para causar enojo, indignación o crear un falso discurso para promover intereses políticos e ideológicos. En USA, Trump utilizó un video hecho en IA para mostrar como quedaría la nueva Franja de Gaza como complejo turístico al mismo tiempo promover una “limpieza étnica” en la región, en el caso de México, durante las elecciones presidenciales de 2024, una política del Partido Acción Nacional utilizó imágenes creadas por IA para “protestar” por la muerte en un menor, mostrando al menor en forma de ángel.
Las estafas son muy comunes con la IA, ya sea para promocionar criptomonedas con imágenes generativas y hasta eventos como el evento de Willyschocolateexperiencie.com que utilizó IA para hacer absolutamente todo, desde la publicidad, hasta los guiones de actuación, imágenes para el evento (físico), estafando a mucha gente en el proceso.
El uso de la IA tiene muchas ventajas si se implementa correctamente y se toma la ética y valores de por medio para garantizar no solo transparencia sino también respetando las garantías de los trabajadores que utilizarán o colaborarán estas máquinas. Si queremos que estas implementaciones funcionen debemos primero hacer un cambio de mentalidad sobre que es y como es el trabajo, adaptarnos a los nuevos instrumentos de trabajo que nos ayude a liberar más tiempo para descansar y dedicarse a nuevos pasatiempos.
Por supuesto, también evitar implementar inteligencias artificiales a lo loco en campos donde no debería haberse implementado, el remplazo completo de humanos perjudica a la producción, por eso también es importante reflexionar si realmente vale la pena que cambien un servicio que era bueno o funciona por robots que puede llegar a empeorar el servicio (porque ha pasado).
La ética y los valores son algo que debemos tener presentes, afortunadamente ya está existiendo regulaciones para las inteligencias artificiales que pueden dar un acierto en como se programa, entrena e implementa las inteligencias artificiales, al mismo tiempo el reforzamiento de las leyes contra delitos graves agregando el mal uso de la IA en sus artículos, también tener en cuenta que si no tenemos valores ni ética al momento de usarlo, solo estaremos generando contenida basura e ilegal que puede apocar el verdadero objetivo de las inteligencias artificiales o llegar hasta su limitación y/o prohibición, espionaje y censura perjudicando a personas en el proceso.
Me hubiera gustado hablar de más temas como las IA generativas y como han reducido su calidad a algo más realista/lógico a algo más “valle inquietante”, como las IA se han vuelto más tontas o más obvias para su fácil detección causado por la gente que usa mal este tipo de herramientas. Como las industrias se vuelven más floja creando productos de mala calidad para que la IA los optimice y empujar venta de hardware caro con poco avance tecnológico y como el capital arruina las inteligencias artificiales aprovechándose de creaciones de artistas y personas para entrenar IA.
Estoy satisfecho con este ensayo y creo que es importante poner un límite en que podemos y no podemos hacer con estas herramientas, adaptarnos y cambiar la mentalidad para complementarlo en nuestro día a día (por ahora) y exigir a los gobiernos leyes y transparencia en este tipo de herramientas que son nuevas para nosotros y las que están por venir.
Bibliografía: Fuentes ensayo
Como había mencionado en el ensayo anterior, que hubiera gustado añadir más temas que se pudo haber complementado en la sección de mal uso de la IA y las consecuencias que ahorita estamos sufriendo. Dije hubiera porque es lo que estoy haciendo ahorita, es una extensión/añadido de mi ensayo para complementar y dar por sentado mi punto de vista de la inteligencia artificial y el poco valor que se le está dando y que cada vez más, una inteligencia artificial fuerte, solo quede en la imaginación colectiva y la ciencia ficción, algunos van a mencionar del porqué estoy hablando poco de este tema, y es que, por más que se menciona y se pone en juicio colectivo estos temas, no hay fuentes que me respalden mis palabras, existen informes académicos pero estos, o son muy complejo y largo o no toman exactamente del tema que quiero hablar, así que, es la razón por la que estoy tomando con pinzas estos temas.
Me noto un poco más agresivo en esta introducción, ¿Verdad? Más que nada mi enojo viene que por, mera avaricia de generar más capital, no se vea una verdadera evolución en esta tecnología y lo más importante, su democratización y bajada de costes de producción, mantenimiento y “venta”. En este pequeño añadido para el ensayo tomaré en cuenta la horrible evolución de la IA y como un par de empresas pujan la venta de tarjetas gráficas para ganar más dinero pero sin ver un salto grande en esta. Si a ti te llama la atención todo este mundo de la inteligencia artificial y te sientes un poco bajoneado por como está yendo, no te preocupes, se entiende un poco la tristeza, ya que todo está saturado ahorita, estamos llegando a un punto donde la industria en general está tocando techo, una burbuja que si no ya reventó, esta pronto de hacerlo. Sueno muy exagerado, pero no se ha visto un avance significativo como para justificar todo este gasto desmesurado de dinero al mismo tiempo explotando a sus trabajadores o manteniéndolos en hacer algo que no quieren como pasa en el sector de videojuegos.
Antes de hablar de la IA quiero tomar primero una afirmación que se está volviendo más frecuente entre maestros y académicos. Y es la afirmación de que la IA está volviendo más tonta a las personas, puedo entender del porqué esta afirmación, aquí va mi opinión personal. ¿La IA nos están volviendo tontos? Si y No, me explico, todo tiene un proceso y como todo proceso tiene fase, por el momento la IA no nos está volviendo tontos, pero si flojos y la flojera pasará a convertirse en ignorancia. Me ha tocado ver como gente ya usa la expresión “Le voy a preguntar a la IA” y cree lo primero que está le vomita en la pantalla y tiene una razón, la confiabilidad, confiamos de que esa IA está diciendo lo correcto porque, ya sabes... está respaldado por empresas poderosas y multimillonarias, ELLOS no pueden fallar, “es Google y Google nunca me ha fallado” dicen algunos.
Esto ocasiona que las personas cada vez más comiencen a generar la flojera de acceder a otros sitios para ver otras partes de una opinión e investigación, es donde ahí ahora si se convierte en una “tontificación de la persona” ya la persona cree y afirma que lo que le diga la IA es verdadero, ya no buscará ni sentirá curiosidad (por eso me enojo cuando uno quiera buscar algo especifico como un dato, especificaciones de un hardware o suceso prefiera preguntarle a la IA que ir a la página oficial del fabricante o una fuente confiable).
Para cerrar el tema les diré a todos esos “académicos” como solucionar este problema o remediarlo y es EDUCANDO, pero dese la humildad, advirtiendo que la IA puede alucinar y dar datos erróneos y por su puesto, desde el respeto, ayudarlo a despertar ese sentido de curiosidad y pensamiento crítico, verificación de la información etc. En sencillas palabras, dejen de ser unos engreídos sabelotodo y ayuden a las personas a progresar.
Ahora, volviendo al tema principal, puedo afirmar que las inteligencias artificiales comerciales del momento se volvieron más tontas de manera inconsciente y consciente por parte de las empresas. Ahorita me explico. No quiero sonar como canal de icebergs, pero ya todos conocen la teoría del internet muerto, bueno, se menciona también que, los principales y poderosos motores de IA ya han sido entrenados con todo lo que hay en el internet, arrasando a diestra y siniestra, datos personales, material protegido con derechos de autos e inclusive como adobe quería examinar proyectos locales de Photoshop para entrenar IA. ¿Por qué algunas empresas están tomando estas medidas? Debemos entender algo muy importante, los datos no son un recurso infinito, son recursos finitos, que cuestan mano de obra y dinero hacerlo, desde hacer un video, una foto, hasta escribir texto, con base en lo que mencioné, los grandes motores de IA se están quedando sin datos reales y de calidad para seguirse entrenando, esto ha ocasionado que los propios motores de la IA se entrenen con datos generados de la IA, haciendo que se agrave demasiado la calidad de información y contenido que circulará en internet, una solución propuesta es poner marca de agua en las imágenes generadas por IA, no estaría mal, pero fácilmente se puede saltar esa “restricción”.
En algunos casos se limitan a un balance entre datos reales y ficticios que ha “retrasado” la precariedad de los resultados, pero manteniéndose en los niveles decentes. Existe un colapso en los modelos de la IA debido a que la IA es entrenada con IA, aprende de sus propios resultados y normaliza los errores. Mencione en el ensayo que es importante supervisión humana en las máquinas, este es un ejemplo de lo que pasa cuando no se supervisa la entrada, manejo y generación de datos e información. Todo eso recurre a la alucinación.
La alucinación de la IA viene cuando con base en su entrenamiento este proporciona o fuerza información para dar coherencia a la petición del usuario. Por ejemplo: Inventar fuentes de un dato poco recurrido o demasiado amplio y complejo, sobreponer información por encima de otra, dar respuesta basada en prejuicios etc... Esto alimenta más la información falsa, ya que, al ser puesto en circulación en la red, los modelos de IA tomarán estos datos falsos y normalizará más estos errores. La IA se vuelve más tonta porque se ha estado alimentando con información y datos no humanos, de baja calidad. Un ejemplo en la vida real, fue el caso de un abogado que usó IA para redactar escritos, donde la IA le había inventado precedentes legales y (combinado con lo que había dicho que primero estamos en la etapa de la flojera) lo único que hizo para corroborar que la información era real, era preguntarlo a la IA que si la información de estos caso que citaba eran reales.
IBM recomiendo en su página que, para evitar que una IA alucine, se debe de entrenar con datos de calidad, pero estos datos de calidad son caros y lleva mucho tiempo en realizarse, inclusive si, las propias se agarran ilegalmente los datos creados por las personas, estas son finitas y llevan tiempo en realizarse aparte de que estos datos cambian con el tiempo, por ejemplo, si una IA es entrenada para describir o generar un vehículo en circulación, la IA puede generar un auto, pero estos datos en un futuro se volverán inútiles porque en un par de años generará porque abra nuevos datos que definan a un vehículo en circulación, como una bicicleta eléctrica o un patín eléctrico, aparte de que, si sigue entrenando con datos antiguos generará un bajo rendimiento, esto permite sesgos estructurales para la IA permitiendo situaciones muy incomodad como encarcelamientos falsos y denegación de empleo a personas.
En mi ensayo mencione un poco como la explotación humana sigue presente aún con IA, pues bueno, la explotación humana puede ayudar a la IA en tener un peor rendimiento y manejo de la IA, las empresas de AI que buscan producir datos auténticos y “humanos”, por ejemplo, Amazon cuenta con una división para generar datos por medio de trabajos que requieran inteligencia humana que una máquina no puede hacer. Se le pidió 44 participantes que resumieran 16 artículos de investigación médica y se descubrió que entre 33 a 44% de los usuarios utilizaron IA a pesar de que se les pidió (y por naturaleza del trabajo), utilizar lenguaje natural. Esto provoca que inconscientemente se entrene IA con datos generados en IA en centros de trabajo que requiere una inteligencia humana para realizarse. Irónicamente el trabajo REPETITIVO y la explotación humana con bajos salarios contribuye a que la IA se estanque y no logre ese tan soñado sueño de automatizar los procesos. Para finalizar, cito en la información en la que me estoy basando para este blog:
Quiero finalizar con mi opinión personal, ¿Cómo podemos revertir esta situación?:
Entiendo el fanatismo que existe hacia Nvidia, como la empresa logró saltos increíbles enfocado para los Gamers™ en gráficos, aunque estos Gamers™ no saben que Nvidia también tiene otros departamentos enfocados a estudios académicos y científicos. ¿Por qué considero a Nvidia y las empresas desarrolladoras de hardware (especialmente la de videojuegos) como carteles? Por la simple razón que usan sus tecnologías para promover la flojera, la poca supervisión y el remplazo de trabajadores en pro de las ganancias monetarias, entregando productos de muchísima peor calidad solo para que saquen después la siguiente gráfica revolucionaria que hará un cambio de juego a todas las industrias habidas y por haber con inteligencias artificiales mediocres que solucionarán y al mismo tiempo empeorarán los errores de programación y rendimiento que las mediocres empresas han cometido, no solo abriendo una brecha de disparidad entre las personas que pueden comprarse o no una gráfica y disfrutar de software modernos, si no que incentiva a la compra compulsiva de tarjetas gráficas que en realidad no muestra nada nuevo, no existe un avance significativo o por lo menos un rendimiento energético mejor que justifique sus precios tan altos, solo para que en el día de la pre-compra, veamos a múltiples revendedores ratas avariciosos del capital vendiendo a sobreprecio estas gráficas a los Gamers™ solo para jugar sus juego favorito que le pide como MINIMO RTX activado y jugarlos a unos flamantes 30 fps.
Lo que puede parecer una proyección, solo es una realidad de como Nvidia incentiva mucho a las empresas a la mediocridad solo para justificar la venta de tarjetas gráficas, tarjetas que no solo presentan una diferencia generativa decente, si no que, cada vez más, consumen más energía y aumenta los precios. Esto termina siendo peligroso, como había mencionado, esto causa división y exclusión a las personas que no tienen el dinero suficiente para comprarlo, que, a pesar que son videojuegos, esto se ha visto mucho más reciente en otros ámbitos como la edición de video y fotos que cada vez más, aumenta su requerimiento de poder y una muestra de la mala optimización, requiriendo computadoras caras para algo que no debería utilizar tanta potencia bruta, excluyendo a PC decentes de años atrás aumentando la basura electrónica o peor aún, PC de gama de entrada que con un buena optimización del software podrían moverse sin problemas para edición y modelado básico.
Esto afecta mucho a las gráficas de gama baja, una serie de noticias han demostrado una baja de calidad pero aumentando considerablemente los precios pero no la potencia, hasta el punto que los consumidores, un ejemplo es la RTX 5070 que quedó con 12 GB de ram y al usar el RTX esta consumirá casi toda la memoria, teniendo un rendimiento similar a una RTX 3070 de 8GB, la situación de una gama más baja, la 5060 se ve mucho peor, una filtración muestra que esta tarjeta tendrá 8GB de memoria y conociendo lo mal optimizado que están los juegos ahora, 8GB son nada para estos juegos modernos programados con las patas. Y ni hablemos de la eficiencia energética que pronto tendremos que conectar una central de la CFE a nuestra computadora.
Su generación anterior, la serie 40 tenía también sus problemas, desde un conector que se quemaba hasta especificaciones paupérrimas, La 4080 iba tener una versión de 12GB, fue tan criticada que cancelaron la versión de 12GB renombrándola a una 4070ti. Tanto fue los errores cometidos en la serie 40 que Nvidia mencionó que no se debía comparar las gráficas por las gamas si no por el precio, que tanta mejora hay con el mismo precio, por ejemplo la 3090 y 4080 tienen un precio similar de salida y con un rendimiento mejor en favor de la 4080 inclusive mencionando que la Ley de Moore estaba muerta y (de manera egocéntrica) mencionar la ley de Huang mencionando la evolución de la IA y sus herramientas en favor de la potencia de las GPU y no de los procesos de fabricación (como si ambas cosas estuvieran separadas no se note la ironía) cito el blog:
Nvidia ha mencionado que los precios aumentan y no es su culpa, pero al mismo tiempo mantienen margenes de ganancia altas, generando millones de dólares para ellos a costa de ofrecer productos “nuevos” sin mostrar una evolución considerable y los peor aumentando sus precios. ¿Y sabes que es lo peor? Que antes lo lograron, la RTX 5090 su gama alta, cuesta 2249 euros. Pero la Titan V con solo 12GB con un precio de salida de 2999 dólares que se considera una de las primeras gráficas con cores para inteligencia artificial, una gráfica de hace 8 años, puede correr juegos modernos como el alan wake con solo 200w en gráficos ultra entre 50-60fps. Ejecutando demos de fuerza bruta sin necesitas de RT.
Estamos en una situación donde la flojera de los desarrolladores provoca que estas tecnologías se conviertan en una necesidad y se enfoque más a herramientas y software que causan más problemas que soluciones, en vez de enfocarse en la fuerza de calculo. Me dirán algunos, que nos fuéramos con AMD, y si, AMD e Intel a mostrado mejores resultados y evolución en fuerza de calculo y reducción de precios en cada nueva generación, si no fuera que, desgraciadamente, toda la industria se mueve y se desarrolla con las tecnologías de Nvidia, se le dio un poder a una empresa que lo único que ha hecho es preocuparse más por la IA que realmente mostrar una innovación en el sector domestico, aumentando precios y siendo injustos con sus consumidores, trayendo tecnologías que nadie pidió y forzó para dar un “atractivo” e incentivar a la compra de tarjetas que en el fondo, nadie pidió. Combinado con el ego de su CEO diciendo que por más que intenten jamas lograrán superarlo aún si regalaran chips, presumiendo calidad y rendimiento cosas que dejaron de hacer y como una empresa china, un don nadie los puso de rodillas, es por lo cual considero a Nvidia como el cartel de las gráficas, un monopolio duro y directo de la IA y como lo utilizarán como justificante para vender gráficas a sobreprecios y consumo energético desmedido que hace mas mal que bien.
¿Realmente necesitamos lo ultimo en tecnología? Citando a luke smith. La gran mayoría de la gente hará actividades esenciales y básicas en su computadora que no necesitarán una potencia increíble para ejecutarla. Fácilmente podemos vivir con hardware antiguo sin necesidad de cambiar por lo menos 10 años, pero desgraciadamente todas estas practicas incitan mucho más al consumismo y a la flojera. El humano tiene mucho más que ofrecer y deberíamos incentivar y concentrar nuestros esfuerzo en la optimización del software y ver la IA como lo que es, una herramientas más no un suplente de nuestra vida y de nuestras actividades. Al final los usuarios, son lo que tienen la ultima palabra y se ha visto una creciente popularidad de revivir y darle un buen uso al hardware antiguo que es capaz de seguir ejecutando software moderno y tareas básicas. Evitemos caer en las garras del capital y velemos más por software libre, transparente y ético, que la IA no se vuelva una dependencia y seguir criticando las injusticias que las empresas hacen con tal de vender malos productos.
Bibliografía: Fuentes temas
Aportaciones en:
XRM: 4A1cEcQ84PKVNcu3HGMhAYRYvKtHY1GXCFV6xBcsRqt11xaB4hsVPsDKwpPr8qBSwmVBUxXfokwtwRng8rzwB1jyCWrR9Ee
WOWNERO: WW4Bz4BUHaXWXyFjU2HgD9SiCWv1BDfT6Weg2ptaSvk3iCncJ2U9TerS2MESytXoLZWwLSePvNbfkGFXA7Rbb7d42rm6C3hSB
Esta obra está licenciada bajo la Licencia Creative Commons Atribución-NoComercial-CompartirIgual 4.0 Internacional. Para ver una copia de esta licencia, visite http://creativecommons.org/licenses/by-nc-sa/4.0/legalcode o envíe una carta a Creative Commons, PO Box 1866, Mountain View, CA 94042, USA.
