En medio de la rápida aceleración de la transformación digital, hoy se exige que la innovación tecnológica no solo cuente con sofisticación funcional, sino también con una sólida integridad ética. Tri Rochmadi, docente del Departamento de Sistemas de Información de la Universidad Alma Ata, enfatizó que los desarrolladores tienen una responsabilidad moral crucial al diseñar sistemas que afectan directamente la vida de la sociedad, desde el sector de la salud hasta el gobierno.
Según Tri, las tecnologías basadas en inteligencia artificial y procesamiento masivo de datos a menudo ocultan riesgos como el sesgo algorítmico y las vulnerabilidades de los datos personales. Señaló que los desarrolladores a menudo se ven atrapados en un dilema entre las exigencias de eficiencia empresarial y la obligación de proteger los derechos de los usuarios. Por lo tanto, los desarrolladores no deben enfocarse únicamente en lo técnico, sino que están obligados a aplicar principios de equidad, transparencia y responsabilidad en cada flujo de trabajo.
Se han identificado cuatro problemas cruciales como estándares éticos básicos en el desarrollo actual de sistemas de información. En primer lugar, la protección de la privacidad, que exige transparencia en la recopilación de datos. En segundo lugar, el fortalecimiento de la ciberseguridad para generar confianza pública. En tercer lugar, la mitigación del sesgo algorítmico que podría desencadenar discriminación. Finalmente, la transparencia del sistema, que otorga a los usuarios el derecho a comprender cómo se toman las decisiones digitales.
Como solución a largo plazo, Tri promueve la integración de la educación en ética digital desde una etapa temprana en la universidad. Además, las organizaciones de desarrollo tecnológico deben construir una cultura laboral que priorice el código de ética profesional por encima de la velocidad de producción. Con un enfoque de diseño centrado en el ser humano (human-centered design), se espera que la tecnología se convierta en una herramienta que realmente aporte un valor añadido inclusivo sin ignorar la protección de los derechos fundamentales de los usuarios.
