IA en 2025: los retos para lo que viene

Regulación, ética y ciberseguridad serán retos clave de la IA para 2025.

17 Enero 2025

La inteligencia artificial (IA) ha demostrado ser en los años recientes una de las tecnologías más disruptivas en diversos escenarios. Cada vez más organizaciones, sin importar su industria, han encontrado en esta tecnología una aliada para automatizar tareas, mejorar procesos y personalizar experiencias. Hoy todo apunta a que esta tendencia evolucionará aún más. Se espera una especialización mayor de la IA, con aplicaciones diseñadas para resolver problemas específicos en sectores como la salud, la educación, la logística y el entretenimiento

Según proyecciones de la consultora Gartner, en el 2025 el mercado mundial de IA crecerá hasta un 31,1%. Así mismo, se prevé que el 55% de las empresas en el mundo se encuentre en una etapa de estabilidad en la madurez de sus despliegues de IA.

No obstante, la puesta en marcha de soluciones de inteligencia artificial presenta retos significativos que oscilan entre la escasez de personal especializado y la infraestructura tecnológica apropiada, hasta preocupaciones éticas y de seguridad. Según expertos, superar estos obstáculos será clave para que la Inteligencia Artificial no solo continúe expandiéndose, sino que también se convierta en una herramienta asequible, fiable y valiosa para todas las organizaciones.

IA en el corazón de la ciberseguridad

La IA ha llegado al corazón de la ciberseguridad, para mal y para bien. Por un lado, con su expansión han aumentado los riesgos en términos de seguridad informática. Un informe de la consultora NTT Data reveló que, en tan solo el primer trimestre de 2024, el uso de la IA en los ciberataques aumentó en un 600%. A la par, Check Point Research reportó que cada organización en el mundo enfrentó 1.636 ataques cibernéticos por semana en el segundo trimestre de 2024: muchos de ellos se hicieron gracias a herramientas potenciadas por esta tecnología.

¿De qué manera los ciberdelincuentes están utilizando la IA para perpetrar ataques cibernéticos cada vez más sofisticados? Gracias a los algoritmos de IA, los atacantes pueden automatizar y personalizar sus métodos para adaptarse a sistemas y redes específicas, aumentando considerablemente su eficiencia. Esto da lugar a ataques más sigilosos y complejos de detectar, especialmente para las soluciones de seguridad tradicionales.

En paralelo, la IA también está siendo utilizada para diseñar ataques más realistas. Por ejemplo, un atacante puede generar un correo electrónico que imita perfectamente el lenguaje y estilo de una comunicación legítima, una táctica comúnmente conocida como phishing. También pueden crear malware más difícil de identificar y perfeccionar técnicas de ingeniería social que manipulen de forma más efectiva a las víctimas. A su vez, el uso de deepfakes está ganando terreno como una herramienta para ejecutar estafas cada vez más creíbles y dañinas.

Un ejemplo real que ilustra este último aspecto ocurrió en Hong Kong, cuando una multinacional perdió aproximadamente 26 millones de dólares debido a una estafa con deepfake. Los ciberdelincuentes utilizaron inteligencia artificial para generar varias videoconferencias falsas con el ‘director financiero de la empresa’, logrando engañar a un empleado que, posteriormente, autorizó transferencias fraudulentas.

El peligro radica en que estas herramientas no solo hacen que los ataques sean más creíbles, sino que también aumentan la probabilidad de que las personas caigan en trampas digitales y, sin darse cuenta, revelen datos confidenciales o comprometan sistemas enteros.

Desde el lado de los empresarios, el desafío sigue siendo comprender cómo aprovechar la IA para integrarla de manera efectiva en sus operaciones diarias y determinar sus beneficios específicos. Según IBM, es fundamental identificar las áreas donde esta tecnología puede aplicarse de forma más estratégica.

Además, la escasez de profesionales capacitados en IA se ha convertido en un obstáculo importante para su implementación. De acuerdo con Deloitte, incluso los adoptantes más avanzados de esta tecnología enfrentan desafíos relacionados con las brechas de habilidades. Por ello, las empresas deben invertir en capacitación continua para que todos los integrantes de la organización se mantengan actualizados en nuevas tecnologías y metodologías vinculadas a la IA.

A esto se suma la necesidad de que las empresas sean capaces de adaptarse rápidamente a los cambios tecnológicos y a las nuevas demandas del mercado, dicen expertos. Para generar valor a gran escala, la inteligencia artificial debe integrarse como un componente esencial de la estrategia empresarial.

Privacidad y transparencia de la información

Según expertos, las empresas deberán asumir un rol más responsable y transparente, asegurándose de que la implementación de la IA sea ética y que las decisiones generadas por sus algoritmos puedan justificarse de manera clara. Esto implica garantizar que los datos que sean utilizados para entrenar a la IA estén libres de sesgos y que se cumplan estándares rigurosos de privacidad y seguridad.

Por ejemplo, los algoritmos de IA, si no se desarrollan adecuadamente, pueden perpetuar y amplificar sesgos existentes, lo que podría tener un impacto negativo en decisiones críticas en áreas como el empleo, la justicia o la salud. Estos sesgos no solo afectan la precisión de las decisiones, sino que también plantean serias preocupaciones éticas, ya que pueden generar desigualdades o discriminar de forma inadvertida a ciertos grupos sociales.

En cuanto a la privacidad, el uso de IA en la gestión de datos plantea el reto de proteger la información sensible y garantizar que los usuarios estén informados y den su consentimiento para la recopilación y el análisis de sus datos. La transparencia será esencial para ganar la confianza del público, exigiendo a las empresas que expliquen cómo funcionan sus algoritmos y cómo se toman las decisiones basadas en ellos.

Infraestructura para soportar la IA

A medida que la IA sigue creciendo, se requiere una infraestructura tecnológica capaz de soportar su desarrollo. Las demandas de procesamiento masivo, memoria y ancho de banda demandarán soluciones innovadoras, como nuevos semiconductores y sistemas de almacenamiento más eficientes.

De hecho, la Cumbre Nacional de IA en Colombia asegura que la infraestructura es un pilar esencial para garantizar el crecimiento y evolución de la IA en el país. Una infraestructura insuficiente podría limitar la capacidad de procesar grandes volúmenes de datos y ejecutar algoritmos avanzados, lo puede desacelerar el progreso en aplicaciones críticas para el desarrollo.

El avance hacia una infraestructura robusta no solo facilitaría el crecimiento de la IA, sino que también impulsaría su adopción mediante tecnologías como la nube y el edge computing, que se complementan entre sí. Por un lado, la nube brinda el poder computacional y el almacenamiento escalable necesarios para entrenar modelos de IA y procesar grandes volúmenes de datos. Por otro lado, el edge computing desplaza parte del procesamiento hacia el borde de las redes, es decir, cerca de los dispositivos donde se generan los datos. Un ejemplo de esta interacción es un sistema de IA diseñado para analizar patrones de tráfico en tiempo real: mientras el edge computing procesa datos generados por sensores locales, disminuyendo la carga en la nube, los sistemas urbanos logran una mayor velocidad de respuesta y eficiencia.

El papel de la regulación

El tema de la regulación de la Inteligencia Artificial no es nuevo. Sin embargo, hasta ahora ha sido más una conversación en mesas de discusión que una realidad concreta para muchos países. En algunos casos se han dado pasos iniciales, pero las normativas existentes son limitadas o carecen de implementación efectiva. Para 2025, según expertos, es probable que veamos la adopción de normativas más estrictas a nivel global. Estas regulaciones buscarán garantizar la transparencia en el uso de datos, proteger los derechos de los usuarios y establecer mecanismos de supervisión para evitar abusos.

No obstante, este avance traerá consigo varios desafíos. Por un lado, la rápida evolución de la IA dificulta que las regulaciones logren mantenerse al ritmo de los avances tecnológicos. Las leyes y normativas suelen ser más lentas en su desarrollo y adopción, lo que podría generar grandes vacíos legales.

Por otra parte, la diversidad de aplicaciones de la IA en sectores como la salud, la seguridad, y el comercio, entre otros, añade complejidad a la tarea de crear un marco regulatorio efectivo y adaptable a todas estas áreas. Cada uso de la IA plantea necesidades particulares que hacen difícil establecer una normativa única y universal.

Además, surgen desafíos relacionados con los derechos humanos. La Organización de las Naciones Unidas (ONU) asegura que garantizar que los sistemas de IA respeten estos derechos y operen de manera ética requiere una regulación cuidadosa y matizada, que tenga en cuenta las características de cada contexto y los posibles impactos en la sociedad.

Fuentes:

Realiza una búsqueda

Últimas Noticias