En los mundos cada vez más realistas de la realidad virtual, los usuarios experimentan discursos de odio y acoso sexual. ¿Cómo deberían gobernarse estos espacios sin ley?
La psicoterapeuta Nina Jane Patel había estado en Horizon Venues de Facebook durante menos de un minuto cuando su avatar fue asaltado por un grupo de hombres. Los atacantes procedieron a «prácticamente violar en grupo» a su personaje, tomando fotografías del juego como recuerdos. Patel se congeló en estado de shock antes de intentar desesperadamente liberar a su yo virtual, a quien había diseñado para que se pareciera a su cabello rubio, pecas y atuendo casual de negocios de la vida real.
“No finjas que no te encantó”, se burlaron las voces humanas de los atacantes a través de sus auriculares mientras ella huía, “vete a frotarte con la foto”.
El metaverso, el término vagamente definido para la próxima generación de tecnologías de realidad virtual inmersiva, aún está en pañales. Los informes emergentes muestran un metaverso más parecido a las salas de chat sin ley que dominaron los inicios de Internet que a los jardines digitales moderados y podados algorítmicamente que ocupamos principalmente en la actualidad. Una investigación reciente de Channel 4 Dispatches documentó metaversos plagados de discursos de odio, acoso sexual, pedofilia y avatares que simulan sexo en espacios accesibles para los niños.
La investigación anterior a la exageración del metaverso encuentra que estas experiencias están lejos de ser poco comunes. Un estudio de 2018 realizado por la agencia de investigación de realidad virtual The Extended Mind encontró que el 36 % de los hombres y el 49 % de las mujeres que usaban regularmente tecnologías de realidad virtual informaron haber experimentado acoso sexual.
Facebook, que cambió su nombre a Meta el año pasado para indicar su inversión en este espacio, hizo pública su decisión de introducir una función de «límite personal» en sus productos de metaverso poco después de que la experiencia de Patel llegara a los titulares. Esta es una función de distancia social virtual que los personajes pueden activar para mantener a los demás a distancia, como un campo de fuerza.
“Queremos que todos los que usen nuestros productos tengan una buena experiencia y encuentren fácilmente las herramientas que pueden ayudar en situaciones como estas, para que podamos investigar y tomar medidas”, dijo Bill Stillwell, gerente de producto, integridad de VR en Meta.
El argumento del metaverso dice que un día interactuaremos con Internet principalmente a través de un casco de realidad virtual, donde los entornos 3D nítidos y convincentes desdibujarán los límites de los mundos físico y virtual. Los conciertos virtuales y los desfiles de moda ya han atraído a multitudes de asistentes digitales, y las marcas y celebridades están comprando terrenos en el metaverso, con ventas individuales que alcanzan los millones de dólares, lo que genera preocupaciones sobre una burbuja inmobiliaria en el metaverso.
Las empresas de tecnología están trabajando para garantizar que, algún día, estos mundos se sientan lo más reales posible. Facebook anunció en noviembre pasado que estaba desarrollando un guante vibratorio háptico para ayudar a imitar la sensación de manipular objetos; La startup española OWO ha creado una chaqueta repleta de sensores para permitir a los usuarios sentir abrazos y disparos en el juego; y la empresa de tecnología japonesa H2L está trabajando para simular el dolor en el metaverso, incluida la sensación de un pájaro picoteando el brazo.
Miles de millones de dólares se vierten en el espacio. Además de Meta, Microsoft, que vende sus visores de realidad mixta HoloLens, está trabajando en software relacionado con el metaverso, mientras que Apple está desarrollando un visor de realidad aumentada. Las empresas de videojuegos como Roblox y Epic Games, y los metaversos descentralizados basados en cadenas de bloques como Sandbox, Decentraland y Upland también están ansiosos por hacerse con una tajada del futuro. El banco de inversión de CitiGroup predice que la economía del metaverso se disparará a $ 13 billones para 2030.
Internet normal está plagado de acoso, incitación al odio y contenido ilegal, y como dejan claro los primeros informes, nada de esto desaparecerá en el metaverso. “Si es posible hacer algo, alguien lo hará”, dice Lucy Sparrow, investigadora de doctorado en informática y sistemas de información de la Universidad de Melbourne, que ha estudiado la moralidad en los videojuegos multijugador. “La gente realmente puede ser bastante creativa en la forma en que usa o abusa de la tecnología”.
El metaverso en realidad podría magnificar algunos de estos daños. David J Chalmers es profesor de filosofía y ciencias neuronales en la Universidad de Nueva York y autor de Reality+… Virtual Worlds and the Problems of Philosophy. Según él, el «acoso corporal» dirigido contra un avatar generalmente se experimenta como más traumático que el acoso verbal en las plataformas de redes sociales tradicionales. “Esa versión encarnada de la realidad social la hace mucho más parecida a la realidad física”, dice.
Con este nuevo y valiente mundo surgen preguntas éticas, legales y filosóficas. ¿Cómo debería evolucionar el entorno normativo para hacer frente al metaverso? ¿Pueden las plataformas de metaverso confiar en los protocolos de seguridad de sus predecesores, o se justifican enfoques completamente nuevos? ¿Y serán suficientes los castigos virtuales para disuadir a los malos actores?
Pasar de una plataforma de redes sociales como Facebook al metaverso significa un cambio de la moderación del contenido a la moderación del comportamiento. Hacer esto último «a cualquier escala significativa es prácticamente imposible», admitió el director de tecnología de Facebook, Andrew Bosworth, en un memorando interno filtrado en noviembre pasado.
El memorando de Bosworth sugirió que los malos actores expulsados del metaverso podrían bloquearse en todas las plataformas propiedad de Facebook, incluso si usaran múltiples avatares virtuales. Pero para ser realmente efectivo, este enfoque se basaría en cuentas que requieren identificación para configurarse.
Facebook dijo el año pasado que está explorando cómo aplicar la moderación de IA al metaverso, pero aún no ha construido nada. Las plataformas de redes sociales existentes utilizan la moderación de contenido automatizada para ayudar a administrar grandes cantidades de usuarios y material, pero aún sufre de falsos positivos, principalmente debido a la incapacidad de comprender el contexto, así como a no detectar contenido que realmente viola las políticas.
“La IA todavía no es lo suficientemente inteligente como para interceptar transmisiones de audio en tiempo real y determinar, con precisión, si alguien está siendo ofensivo”, argumenta el profesor de derechos digitales de la Universidad de Bournemouth, Andy Phippen. “Y si bien podría haber cierto margen para la moderación humana, el monitoreo de todos los espacios en línea en tiempo real requeriría una cantidad de recursos imposible”.
Hay algunos ejemplos de cuando el crimen del mundo digital ha resultado en un castigo en el mundo real. En 2012, el tribunal supremo holandés falló en un caso relacionado con el robo de un amuleto digital y una espada en el juego multijugador en línea Runescape. Dos jugadores que robaron a otro a punta de cuchillo fueron sentenciados a servicio comunitario en el mundo real, y el juez dijo que aunque los objetos robados no tenían valor material, su valor se derivaba del tiempo y el esfuerzo dedicados a obtenerlos.
Juzgar las transgresiones digitales en los tribunales de la vida real no parece exactamente escalable, pero los expertos legales creen que si el metaverso se vuelve tan importante como dicen los directores ejecutivos de tecnología, podríamos ver cada vez más marcos legales del mundo real aplicados a estos espacios. El profesor de bioderecho en la Universidad de Brunel, Londres, Pin Lean Lau, dice que aunque pueden surgir algunos desafíos legales novedosos en el metaverso, por ejemplo, preguntas sobre «la personalidad jurídica del avatar, o la propiedad de la propiedad virtual y si esto podría ser utilizado como garantía para préstamos… es posible que no necesitemos reinventar la rueda por completo”.
Sin embargo, hay quienes esperan que el metaverso pueda ofrecer una oportunidad para ir más allá del modelo de cumplimiento reactivo que domina la cosecha actual de espacios sociales en línea. Sparrow, por su parte, desaprueba el énfasis actual de las empresas de metaverso en la responsabilidad individual, donde es la víctima la que debe desencadenar una respuesta de seguridad ante un ataque. En cambio, pregunta, «¿cómo podemos ser proactivos en la creación de un entorno comunitario que promueva intercambios más positivos?»
Nadie quiere vivir en un estado policial virtual, y existe una creciente sensación de que la aplicación debe equilibrarse mediante la promoción del comportamiento prosocial. Algunas sugerencias presentadas por el organismo de la industria XR Association, que comprende a Google, Microsoft, Oculus, Vive y Sony Interactive Entertainment, incluyen recompensar el altruismo y la empatía, y celebrar el comportamiento colectivo positivo.
El cofundador de la empresa de investigación de juegos Quantic Foundry, Nick Yee, destacó el ejemplo del juego multijugador EverQuest, donde los jugadores que habían muerto en el juego se vieron obligados a viajar de regreso al lugar de su muerte y recuperar sus pertenencias perdidas. Yee argumenta que esta característica de diseño ayudó a fomentar el comportamiento altruista, porque los jugadores tenían que solicitar la ayuda de otros jugadores para recuperar los artículos, lo que ayudó a fomentar la camaradería y promover interacciones positivas.
Patel aboga por mirar más allá de los mecanismos de aplicación al pensar en cómo regular el metaverso. Propone examinar el comportamiento nocivo de algunas personas en entornos digitales y sentir «curiosidad sobre qué es lo que les hace comportarse de esta manera».
Con este nuevo y valiente mundo surgen preguntas éticas, legales y filosóficas. ¿Cómo debería evolucionar el entorno normativo para hacer frente al metaverso? ¿Pueden las plataformas de metaverso confiar en los protocolos de seguridad de sus predecesores, o se justifican enfoques completamente nuevos? ¿Y serán suficientes los castigos virtuales para disuadir a los malos actores?
Pasar de una plataforma de redes sociales como Facebook al metaverso significa un cambio de la moderación del contenido a la moderación del comportamiento. Hacer esto último «a cualquier escala significativa es prácticamente imposible», admitió el director de tecnología de Facebook, Andrew Bosworth, en un memorando interno filtrado en noviembre pasado.
El memorando de Bosworth sugirió que los malos actores expulsados del metaverso podrían bloquearse en todas las plataformas propiedad de Facebook, incluso si usaran múltiples avatares virtuales. Pero para ser realmente efectivo, este enfoque se basaría en cuentas que requieren identificación para configurarse.
Facebook dijo el año pasado que está explorando cómo aplicar la moderación de IA al metaverso, pero aún no ha construido nada. Las plataformas de redes sociales existentes utilizan la moderación de contenido automatizada para ayudar a administrar grandes cantidades de usuarios y material, pero aún sufre de falsos positivos, principalmente debido a la incapacidad de comprender el contexto, así como a no detectar contenido que realmente viola las políticas.
“La IA todavía no es lo suficientemente inteligente como para interceptar transmisiones de audio en tiempo real y determinar, con precisión, si alguien está siendo ofensivo”, argumenta el profesor de derechos digitales de la Universidad de Bournemouth, Andy Phippen. “Y si bien podría haber cierto margen para la moderación humana, el monitoreo de todos los espacios en línea en tiempo real requeriría una cantidad de recursos imposible”.
Hay algunos ejemplos de cuando el crimen del mundo digital ha resultado en un castigo en el mundo real. En 2012, el tribunal supremo holandés falló en un caso relacionado con el robo de un amuleto digital y una espada en el juego multijugador en línea Runescape. Dos jugadores que robaron a otro a punta de cuchillo fueron sentenciados a servicio comunitario en el mundo real, y el juez dijo que aunque los objetos robados no tenían valor material, su valor se derivaba del tiempo y el esfuerzo dedicados a obtenerlos.
Juzgar las transgresiones digitales en los tribunales de la vida real no parece exactamente escalable, pero los expertos legales creen que si el metaverso se vuelve tan importante como dicen los directores ejecutivos de tecnología, podríamos ver cada vez más marcos legales del mundo real aplicados a estos espacios. El profesor de bioderecho en la Universidad de Brunel, Londres, Pin Lean Lau, dice que aunque pueden surgir algunos desafíos legales novedosos en el metaverso, por ejemplo, preguntas sobre «la personalidad jurídica del avatar, o la propiedad de la propiedad virtual y si esto podría ser utilizado como garantía para préstamos… es posible que no necesitemos reinventar la rueda por completo”.
Sin embargo, hay quienes esperan que el metaverso pueda ofrecer una oportunidad para ir más allá del modelo de cumplimiento reactivo que domina la cosecha actual de espacios sociales en línea. Sparrow, por su parte, desaprueba el énfasis actual de las empresas de metaverso en la responsabilidad individual, donde es la víctima la que debe desencadenar una respuesta de seguridad ante un ataque. En cambio, pregunta, «¿cómo podemos ser proactivos en la creación de un entorno comunitario que promueva intercambios más positivos?»
Nadie quiere vivir en un estado policial virtual, y existe una creciente sensación de que la aplicación debe equilibrarse mediante la promoción del comportamiento prosocial. Algunas sugerencias presentadas por el organismo de la industria XR Association, que comprende a Google, Microsoft, Oculus, Vive y Sony Interactive Entertainment, incluyen recompensar el altruismo y la empatía, y celebrar el comportamiento colectivo positivo.
El cofundador de la empresa de investigación de juegos Quantic Foundry, Nick Yee, destacó el ejemplo del juego multijugador EverQuest, donde los jugadores que habían muerto en el juego se vieron obligados a viajar de regreso al lugar de su muerte y recuperar sus pertenencias perdidas. Yee argumenta que esta característica de diseño ayudó a fomentar el comportamiento altruista, porque los jugadores tenían que solicitar la ayuda de otros jugadores para recuperar los artículos, lo que ayudó a fomentar la camaradería y promover interacciones positivas.
Patel aboga por mirar más allá de los mecanismos de aplicación al pensar en cómo regular el metaverso. Propone examinar el comportamiento nocivo de algunas personas en entornos digitales y sentir «curiosidad sobre qué es lo que les hace comportarse de esta manera».
El modelo de gobierno de arriba hacia abajo de las plataformas de redes sociales actuales también podría verse afectado si las plataformas descentralizadas continúan desempeñando un papel en el ecosistema del metaverso. Tales modelos han sido probados antes. La plataforma de foros en línea Reddit, por ejemplo, depende en parte de los moderadores de la comunidad para vigilar los grupos de discusión. Uno de los primeros juegos infantiles multijugador, el Club Penguin, propiedad de Disney, fue pionero en una red gamificada de informantes «agentes secretos», que vigilaban a otros jugadores.
Un artículo de 2019 de investigadores que trabajan con Oculus VR, propiedad de Facebook, indica que la compañía está explorando iniciativas de moderación impulsadas por la comunidad en sus aplicaciones de realidad virtual como un medio para contrarrestar los problemas de la gobernanza de arriba hacia abajo.
En muchos sentidos, las soluciones que han ideado las empresas de tecnología para abordar los daños del metaverso hacen eco de las estrategias inadecuadas que han empleado en Internet, y podrían describirse como una concesión para evitar la regulación.
Sin embargo, algunas de las nuevas leyes que se están promulgando para moderar las redes sociales bien pueden aplicarse al metaverso. La legislación gubernamental, como la Ley de Servicios Digitales recientemente implementada en la UE, que impone severas sanciones a las empresas de redes sociales si no eliminan rápidamente el contenido ilegal, y el proyecto de ley de daños en línea del Reino Unido, que aún se está incubando, podrían desempeñar un papel en el desarrollo de estándares de seguridad. en el metaverso. Las empresas de metaverso de Facebook ya están cayendo en contra de los reguladores por seguridad. A principios de este año, el organismo de control de datos del Reino Unido, la Oficina del Comisionado de Información, buscó conversaciones con Facebook sobre la falta de controles parentales en su popular visor de realidad virtual Oculus Quest 2.
Pero todavía hay preguntas legales sin resolver sobre cómo gobernar los cuerpos virtuales que van más allá del alcance de la web actual, como cómo se aplican las reglas sobre la jurisdicción nacional a un mundo virtual y si un avatar algún día podría obtener el estatus legal necesario para ello. ser demandado. La naturaleza altamente especulativa del espacio en este momento significa que estas preguntas están lejos de ser respondidas.