Nuestro título en esta aportación de hoy refleja una constante preocupación en todos los ámbitos de la sociedad. Desde los ciudadanos en cada momento del día en que nos convertimos en consumidores, pasando por los ámbitos de la política en el que se tienen que tomar decisiones, por ende, hay que regular, como tiene que hacerlo la Comisión Europea a nivel de la UE, o el gobierno de Alemania o el gobierno español en sus respectivas competencias nacionales, para finalmente también ser objeto de debate y discusión en todos los ámbitos empresariales. Por tanto, no es algo que esté hablándose a la sombra, sino que es un reclamo permanente en el hoy, aquí y ahora.
La innovación tecnológica trae tanto beneficios como daños a nuestras sociedades, para lo cual hay infinidad de ejemplos que podemos considerar. Es el caso, a modo meramente descriptivo (en este punto no estamos haciendo una valoración aún) sobre la tecnología de encriptación. Es indispensable para asegurar transacciones bancarias, comunicaciones privadas y datos personales en la nube. Pero todo este lado bueno de la protección de nuestro gran activo que son los datos personales, tiene su negativa contrapartida que es que lo pone muy difícil para el contralor que tienen que llevar a cabo las fuerzas y cuerpos de seguridad de los estados y también los que son de tipo internacional, caso de Interpol, a fin de tener la capacidad de detectar y evitar el crimen organizado.
Un aspecto capital del cifrado como valor tecnológico es que ha sido un elemento crucial para las diversas maneras de comunicación de las que dispone la sociedad global hoy día. Pero cuando entramos a considerar los actores importantes en el sector empresarial tecnológico como son Google, Facebook, Apple, Twitter, etc., se observa que la información puede ser seleccionada por estas plataformas, y sus complejos algoritmos pueden permitir a los usuarios ver solo lo que ya les gusta.
¿Es que se produce entonces un filtro de información?
Desde ya que existe este filtro de información invisible que puede obstaculizar el libre flujo de información y potencialmente polarizar las preferencias y opiniones políticas de las personas. Y esto no es una cuestión menor. De ahí que en esa discusión y debate permanente al que hacíamos referencia más arriba, se seguirá produciendo y además es necesario. Diríamos que imprescindible en las esferas de decisión política y regulatoria. En definitiva, la búsqueda de un marco ético y normativo sobre innovación tecnológica.
La tecnología de la información es uno de los ejemplos de la llamada “tecnología disruptiva”, expresión que le debemos a Christensen en 1997. Pero no olvidemos que las NT’s y sus procesos disruptivos incluyen inteligencia artificial, robótica, impresoras 3D, blockchain y automóviles sin conductor, todos ellos factores que pueden alterar profundamente los mercados existentes y cómo es la reacción y comportamiento del consumidor. Sabemos también que con la finalidad de ver cuál es su avance (desde el punto vista técnico) y extensión (hablamos geográficamente) se vienen realizando estudios para tener una especie de tablero de mando sobre dónde y cómo se están produciendo las diversas dinámicas industriales que impactan los ámbitos económicos y sociales de los países.
¿Hasta dónde debe llegar la capacidad de limitar la innovación?
Esta pregunta nos la venimos formulando muy especialmente en los últimos tres años, dada la aceleración de la innovación tecnológica en todos los campos del conocimiento, primero el ensayo e inmediatamente la aplicación. Pero con el agravante (en el sentido de la celeridad de los procesos) en que no da tiempo a ver las consecuencias sociales de una determinada aplicación (hablamos de herramientas tecnológicas en general en el ámbito global de las TI) para que ya vengan detrás de esta innovación que está en vanguardia, una segunda, una tercera y así sucesivamente, y que al mismo tiempo se está tratando de encauzar legalmente la primera de ellas de alguna manera dentro de una de las normativas existentes, o por contrario, dado el tenor de la misma, hay que volver a reformar una ley existente o incluso legislar desde cero porque hay un espacio en blanco que no ha sido contemplado. Pero teniendo en cuenta además que la que vine detrás (la nueva o nuevas innovaciones) no dará ni tiempo para la reflexión en cuanto a sus aplicaciones y consecuencias para los consumidores.
Por tanto, cualquier marco puede tener dos vertientes: apoyar la innovación o limitarla. No es fácil, pero hay que abordarlo con seriedad y profundidad esta realidad. Porque desde los sectores empresariales punteros que van llevando la iniciativa científica y tecnológica siempre están luchando para que no haya ningún tipo de restricción ni a la creatividad ni al proceso innovador. Creen que pueden interrumpir de manera muy perjudicial estas fases necesarias para la disrupción tecnológica. Pero para salvaguardar los valores fundamentales que protegen el interés público no se puede bajar la cabeza y dejar que suceda sin más, porque hay que establecer el marco ético y normativo, teniendo que responder a una serie de preguntas importantes.
Las preguntas que más nos comprometen
En primer lugar, ¿quién es el responsable cuando falla la tecnología? No menos importante, la que pregunta ¿dónde intervenir, en términos de regulación? A continuación, una muy delicada que cuestiona en si ¿podemos confiar en principios compartidos y autorregulación o los algoritmos desarrollados por la industria deberían estar abiertos a cualquier control de supervisión?
Si bien todos estos interrogantes son válidos que sean formulados desde los ámbitos de decisión política, desde las cámaras que nuclean los intereses de los consumidores, especialmente esas áreas que se denominan “defensor del consumidor”, también hay que tener en cuenta con qué instrumentos normativos se cuenta a nivel internacional. ¿Qué normas internacionales deberían ser aplicables a las búsquedas remotas por computadora por parte de las agencias de aplicación de la ley, y cómo se relacionan estas normas con las preocupaciones de soberanía?
No menos importante es formularnos la pregunta de ¿qué tipo de tecnología robótica debería permitirse en aplicaciones que van desde el cuidado de ancianos y discapacitados hasta la aplicación de la ley, o incluso, de qué tecnología se dispones en conflictos armados en determinadas regiones? Y ya entrando en el terreno de los derechos humanos, la formulación correcta y necesaria es ¿cuál sería la relevancia concreta de la dignidad humana y los derechos humanos en la regulación del uso de tecnología innovadora?
Las dudas que se nos presentan a nivel social
Cuando se regula legalmente una actividad determinada, es porque previamente se venían produciendo problemas, discusiones, debates y por supuesto, porque se habían producido situaciones no contempladas por ninguna normativa y que traían aparejados perjuicios para los ciudadanos, teniendo en cuenta siempre el interés general que debe prevalecer para legislar.
De ahí que las dudas en este ámbito en el que chocan la ética y la innovación, tenemos que tener en cuenta:
1º) ¿Cuáles son los problemas éticos en torno a la tecnología?
2º) ¿Cuáles son las cuestiones éticas más importantes en tecnología?
3º) ¿Se está haciendo un buen uso de la información personal?
4º) ¿Se está abusando de la desinformación a través de las “fake news”?
5º) ¿Existe una falta de supervisión clara y aceptación de responsabilidad?
6º) ¿De qué manera se está usando la IA?
7º) ¿Cuál es el grado de avance en la tecnología autónoma y si está siendo normalizada legalmente?
8º) ¿Cuáles son los marcos éticos de aplicación para el respeto de todos los usuarios, sean consumidores o clientes?
9º) ¿Se está haciendo un uso moral de los datos y recursos de parte de las organizaciones que tienen acceso a una cantidad ilimitada de información personal?
10) ¿Se está haciendo una adaptación responsable de la tecnología disruptiva?
Es obvio que no todas estas preguntas que estamos formulando (no son de nuestra propia cosecha, sino como se dice coloquialmente, “están flotando en el ambiente”) son las que abarcan la problemática a la que nos enfrentamos. Sin duda habrá muchas más. Pero lo que pretendemos con nuestra aportación de hoy es una reflexión a escala social global y especialmente en los ámbitos de decisión política.
Desde la AEEN consideramos que la ética es y seguirá siendo un tema capital para el desarrollo futuro de nuestra sociedad. Es una lucha en la que no debemos ceder, la forma en que tratamos a los demás, cómo usamos la información, de qué manera interactuamos con los empleados, o cómo estamos gestionando los recursos, y en especial, cada uno de estas cuestiones que tienen valor por sí mismas, ver cómo encajan en el concepto de sostenibilidad que también defendemos desde nuestra asociación. Todo lo que implique el desarrollo sostenible lo priorizamos, porque impacta el mundo que nos rodea y termina afectando la forma en que vemos a las empresas.
De hecho, no es infrecuente que nos encontremos en todos los ámbitos un trato inapropiado hacia las personas y las comunidades en las que viven, lo que acorde con los principios de responsabilidad social corporativa en los que sin duda entra el concepto de sostenibilidad de la economía y de nuestro cuidado por mejorar el medio ambiente físico (el planeta), terminan marcando la diferencia entre el éxito o el fracaso empresarial. Es por eso que las grandes corporaciones tecnológicas siempre sujetas a un escrutinio de la sociedad, son las que han tomado la delantera para una implementación de prácticas éticas en sus procesos de toma de decisiones.
Cuestiones éticas más importantes en tecnología
a) Uso indebido de información personal
Estos viviendo una era excepcional de tecnología de la información, en la que todo gira en torno a cómo las empresas utilizan toda nuestra información personal de la que disponen. A medida que navegamos por sitios de Internet, nos decidimos por hacer una compra online por la que estamos ingresando datos personales y una serie de preferencias que ni nos damos cuenta son la medida de nuestra personalidad como consumidores, podemos caer en manos poco escrupulosas con la intimidad que corresponde a este tipo de información. Además, estamos interactuando de manera permanente con diferentes negocios en línea y participamos en las redes sociales, lo que también significa estar expuestos a que nuestros datos personales sean públicos y/ o mal utilizados.
Las empresas a menudo recopilan información para hiperpersonalizar nuestras experiencias en línea, pero ¿hasta qué punto esa información realmente impide nuestro derecho a la privacidad?
¿Cuándo se puede decir que una empresa va demasiado lejos en el uso que hace de la información personal? Porque sin duda para las empresas, es extremadamente valioso saber qué tipo de productos se buscan y qué tipo de contenido consumen más las personas. Pero también es importante para las personas que deciden en altas esferas políticas y normativas, conocer qué tipo de problemas sociales o legales están recibiendo más atención. Ver si se produce o no un choque de intereses en el que los datos que a menudo se explotan para que las empresas o entidades puedan ganar dinero o avanzar en sus objetivos, para llegar mejor a una base de clientes conociendo en profundidad sus preferencias, termina convirtiéndose en un mercadeo de datos personales que previamente ha recopilado dicha plataforma.
b) Falsedad de datos
En los últimos años se ha producido un hecho alarmante, como es el que sucedió con la supuesta desinformación y falsificación de datos que se dio en las elecciones de Estados Unidos, acusando al espionaje ruso de estar detrás de al menos, un grado de influencia en los resultados en algún estado norteamericano en concreto. El efecto creó una polarización que ha tenido consecuencias de gran alcance en los entornos económicos y políticos mundiales.
Desde los inicios de Internet la manera en cómo se accedía a la información justo antes de la red, desde ya que no tiene nada que ver con el tipo de acceso actual que se tiene de esa información. Pero en el presente estamos constantemente inundados de eventos y noticias en tiempo real a medida que se publican.
Cualquier persona, especialmente las que se consideran celebridades pueden difundir opiniones en las redes sociales sin verificar los hechos. Pero esto le ocurre también a los políticos, dirigentes empresariales, etc. que más de uno ha caído en la trampa de no constatar ni verificar si había algo de verisimilitud en la discusión abierta y pública en la que había entrado, a la que luego se agregan más inexactitudes y se difunden aún más a pesar de su falta de precisión o inexactitud. La información ya no se somete al arduo proceso de validación que solíamos utilizar para publicar periódicos y libros.
c) Falta de Supervisión y Aceptación de Responsabilidad
En el tejido empresarial sabemos que las organizaciones realizan operaciones que son implementadas por sus equipos y muchas otras que se externalizan, caso de empresas que trabajan en software, bigdata, ingeniería de sistemas, redes, etc. La cuestión es en dónde recae la responsabilidad de estas operaciones que no están siendo operadas directamente sino bajo subcontratación de terceros. Hablamos de tecnología propia y la de terceros que alquilamos o compramos. Como resultado, a menudo existe cierta confusión sobre dónde recae la responsabilidad en lo que respecta a la gobernanza, el uso de big data, las preocupaciones sobre seguridad cibernética y la gestión de información de identificación personal o PII. ¿De quién es realmente la responsabilidad de garantizar que los datos estén protegidos? Si se contrata a un tercero para el software que procesa los pagos, ¿tiene alguna responsabilidad si se violan los datos de la tarjeta de crédito? El hecho es que es trabajo de todos. Las empresas deben adoptar una perspectiva en la que todas las partes colectivas compartan la responsabilidad.
Esto es lo que ha llevado en los últimos tiempos a los expertos en seguridad y también en parte de la clase política más sensible a estas cuestiones, a que debemos admitir la necesidad de un enfoque global para la regulación y establecimiento de un marco ético necesario. No puede haber fracturas entre la formulación de políticas y una mala gestión generalizada de los datos. De la misma manera que estamos luchando a diario por una sociedad y organizaciones sostenible, deberíamos poner el mismo empeño en que instituciones, gobiernos y empresas de todos los sectores, se esfuercen en unirse hacia un marco ético plausible, que para nada se vea como una interferencia en la creatividad y desarrollo tecnológico, sino como un cuidado de los derechos fundamentales de las personas. La situación actual es necesariamente mejorable.