Deepfakes y desinformación en la era de la IA generativa: Discusiones sobre las consecuencias socio-políticas y los alcances normativos

Autores
Aminahuel, Aimé; Rodríguez, Malvina Eugenia
Año de publicación
2025
Idioma
español castellano
Tipo de recurso
artículo
Estado
versión publicada
Descripción
La tecnología deepfake registra una utilización masiva a partir de los desarrollos de la Inteligencia Artificial Generativa, planteando nuevos desafíos en el campo de las políticas públicas y, específicamente, de las regulaciones implicadas en ámbitos como el de la propiedad intelectual. Ello se constata especialmente en Argentina, donde todavía no se cuenta con actualizaciones adecuadas de marcos normativos o políticas integrales que aborden la temática en un sentido preventivo. En este contexto, el artículo explora cómo la manipulación de contenido audiovisual puede afectar derechos humanos y digitales en el capitalismo de plataformas. Para ello, se propone una revisión general de las conceptualizaciones de fake news, hate speach y deepfake, incluyendo su uso en diferentes contextos como el entretenimiento, la política y la publicidad. Los conceptos se encuadran en la denominada “era de la posverdad”,esto es, el fenómeno de la desinformación potenciado por el desarrollo de tecnologías como el big data, el machine learning y la inteligencia artificial. En torno a la pregunta: ¿qué ocurre con la autoría y la manipulación ocultas en algunos contenidos creados por IA?, el diseño metodológico de este trabajo aborda un estudio del caso argentino, considerando un análisis de contenido de la comunicación gubernamental del presidente Milei y un análisis documental sobre ejemplos de utilización de IA en publicidad, producción audiovisual y campañas electorales, problematizando los vacíos jurídicos en la legislación argentina y en comparación con otros países de América Latina, que dificultan la protección ciudadana frente a estas tecnologías, así como la necesidad de adaptar las normativas existentes a la realidad digital actual. Finalmente, se presentan tres propuestas de abordaje: la alfabetización digital, el fact-checking y las políticas de regulaciones, que impulsen la creación de marcos legales más robustos y la colaboración entre gobiernos, instituciones y sociedad civil.
Deepfake technology is being used extensively thanks to developments in generative artificial intelligence, posing new challenges in the field of public policy and, specifically, in regulations relating to areas such as intellectual property. This is particularly evident in Argentina, where there are still no adequate updates to regulatory frameworks or comprehensive policies that address the issue in a preventive manner. In this context, the article explores how the manipulation of audiovisual content can affect human and digital rights in platform capitalism. To this end, it proposes a general review of the conceptualisations of fake news, hate speech and deepfake, to include their use in different contexts such as entertainment, politics and advertising. Regarding the question: what happens with the hidden authorship and manipulation in some content created by AI? the methodological design of this work addresses a case study in Argentina, considering a quantitative content analysis of President Milei's government communications and a qualitative documentary analysis of examples of AI use in advertising, audiovisual production, and election campaigns, highlighting legal loopholes in Argentine legislation and comparing it with other Latin American countries. Finally, three proposals are presented: digital literacy, fact-checking and regulatory policies to promote the creation of more robust legal frameworks and collaboration between governments, institutions and civil society.
A tecnologia deepfake registra uma utilização massiva a partir dos desenvolvimentos da inteligência artificial generativa, levantando novos desafios no campo das políticas públicas e, especificamente, das regulamentações envolvidas em áreas como a propriedade intelectual. Isso é especialmente evidente na Argentina, onde ainda não há atualizações adequadas dos marcos normativos ou políticas integrais que abordem o tema de forma preventiva. Neste contexto, o artigo explora como a manipulação de conteúdo audiovisual pode afetar os direitos humanos e digitais no capitalismo de plataformas. Para isso, propõe-se uma revisão geral das conceituações de fake news, discurso de ódio e deepfake, incluindo seu uso em diferentes contextos, como entretenimento, política e publicidade. Em torno da questão: o que acontece com a autoria e a manipulação ocultas em alguns conteúdos criados por IA? O desenho metodológico deste trabalho aborda um estudo de caso argentino, considerando uma análise quantitativa do conteúdo da comunicação governamental do presidente Milei e uma análise documental qualitativa sobre exemplos de utilização da IA em publicidade, produção audiovisual e campanhas eleitorais, problematizando as lacunas jurídicas na legislação argentina e em comparação com outros países da América Latina. Por fim, são apresentadas três propostas de abordagem: a alfabetização digital, a verificação de factos e as políticas de regulamentação, que impulsionam a criação de quadros jurídicos mais robustos e a colaboração entre governos, instituições e sociedade civil.
Fil: Aminahuel, Aimé. Universidad Nacional de Villa Maria. Centro de Conocimiento, Formacion E Investigacion En Estudios Sociales. - Consejo Nacional de Investigaciones Cientificas y Tecnicas. Centro Cientifico Tecnologico Conicet - Cordoba. Centro de Conocimiento, Formacion E Investigacion En Estudios Sociales.; Argentina
Fil: Rodríguez, Malvina Eugenia. Universidad Nacional de Villa Maria. Centro de Conocimiento, Formacion E Investigacion En Estudios Sociales. - Consejo Nacional de Investigaciones Cientificas y Tecnicas. Centro Cientifico Tecnologico Conicet - Cordoba. Centro de Conocimiento, Formacion E Investigacion En Estudios Sociales.; Argentina
Materia
Inteligencia Artificial
Deepfake
Desinformación
Legislaciones
Nivel de accesibilidad
acceso abierto
Condiciones de uso
https://creativecommons.org/licenses/by-nc/2.5/ar/
Repositorio
CONICET Digital (CONICET)
Institución
Consejo Nacional de Investigaciones Científicas y Técnicas
OAI Identificador
oai:ri.conicet.gov.ar:11336/291854
Acceder
id CONICETDig_aeaa8831e8006dc51ebb6175973b9ccd
oai_identifier_str oai:ri.conicet.gov.ar:11336/291854
network_acronym_str CONICETDig
repository_id_str 3498
network_name_str CONICET Digital (CONICET)
spelling Deepfakes y desinformación en la era de la IA generativa: Discusiones sobre las consecuencias socio-políticas y los alcances normativosAminahuel, AiméRodríguez, Malvina EugeniaInteligencia ArtificialDeepfakeDesinformaciónLegislacioneshttps://purl.org/becyt/ford/5.8https://purl.org/becyt/ford/5La tecnología deepfake registra una utilización masiva a partir de los desarrollos de la Inteligencia Artificial Generativa, planteando nuevos desafíos en el campo de las políticas públicas y, específicamente, de las regulaciones implicadas en ámbitos como el de la propiedad intelectual. Ello se constata especialmente en Argentina, donde todavía no se cuenta con actualizaciones adecuadas de marcos normativos o políticas integrales que aborden la temática en un sentido preventivo. En este contexto, el artículo explora cómo la manipulación de contenido audiovisual puede afectar derechos humanos y digitales en el capitalismo de plataformas. Para ello, se propone una revisión general de las conceptualizaciones de fake news, hate speach y deepfake, incluyendo su uso en diferentes contextos como el entretenimiento, la política y la publicidad. Los conceptos se encuadran en la denominada “era de la posverdad”,esto es, el fenómeno de la desinformación potenciado por el desarrollo de tecnologías como el big data, el machine learning y la inteligencia artificial. En torno a la pregunta: ¿qué ocurre con la autoría y la manipulación ocultas en algunos contenidos creados por IA?, el diseño metodológico de este trabajo aborda un estudio del caso argentino, considerando un análisis de contenido de la comunicación gubernamental del presidente Milei y un análisis documental sobre ejemplos de utilización de IA en publicidad, producción audiovisual y campañas electorales, problematizando los vacíos jurídicos en la legislación argentina y en comparación con otros países de América Latina, que dificultan la protección ciudadana frente a estas tecnologías, así como la necesidad de adaptar las normativas existentes a la realidad digital actual. Finalmente, se presentan tres propuestas de abordaje: la alfabetización digital, el fact-checking y las políticas de regulaciones, que impulsen la creación de marcos legales más robustos y la colaboración entre gobiernos, instituciones y sociedad civil.Deepfake technology is being used extensively thanks to developments in generative artificial intelligence, posing new challenges in the field of public policy and, specifically, in regulations relating to areas such as intellectual property. This is particularly evident in Argentina, where there are still no adequate updates to regulatory frameworks or comprehensive policies that address the issue in a preventive manner. In this context, the article explores how the manipulation of audiovisual content can affect human and digital rights in platform capitalism. To this end, it proposes a general review of the conceptualisations of fake news, hate speech and deepfake, to include their use in different contexts such as entertainment, politics and advertising. Regarding the question: what happens with the hidden authorship and manipulation in some content created by AI? the methodological design of this work addresses a case study in Argentina, considering a quantitative content analysis of President Milei's government communications and a qualitative documentary analysis of examples of AI use in advertising, audiovisual production, and election campaigns, highlighting legal loopholes in Argentine legislation and comparing it with other Latin American countries. Finally, three proposals are presented: digital literacy, fact-checking and regulatory policies to promote the creation of more robust legal frameworks and collaboration between governments, institutions and civil society.A tecnologia deepfake registra uma utilização massiva a partir dos desenvolvimentos da inteligência artificial generativa, levantando novos desafios no campo das políticas públicas e, especificamente, das regulamentações envolvidas em áreas como a propriedade intelectual. Isso é especialmente evidente na Argentina, onde ainda não há atualizações adequadas dos marcos normativos ou políticas integrais que abordem o tema de forma preventiva. Neste contexto, o artigo explora como a manipulação de conteúdo audiovisual pode afetar os direitos humanos e digitais no capitalismo de plataformas. Para isso, propõe-se uma revisão geral das conceituações de fake news, discurso de ódio e deepfake, incluindo seu uso em diferentes contextos, como entretenimento, política e publicidade. Em torno da questão: o que acontece com a autoria e a manipulação ocultas em alguns conteúdos criados por IA? O desenho metodológico deste trabalho aborda um estudo de caso argentino, considerando uma análise quantitativa do conteúdo da comunicação governamental do presidente Milei e uma análise documental qualitativa sobre exemplos de utilização da IA em publicidade, produção audiovisual e campanhas eleitorais, problematizando as lacunas jurídicas na legislação argentina e em comparação com outros países da América Latina. Por fim, são apresentadas três propostas de abordagem: a alfabetização digital, a verificação de factos e as políticas de regulamentação, que impulsionam a criação de quadros jurídicos mais robustos e a colaboração entre governos, instituições e sociedade civil.Fil: Aminahuel, Aimé. Universidad Nacional de Villa Maria. Centro de Conocimiento, Formacion E Investigacion En Estudios Sociales. - Consejo Nacional de Investigaciones Cientificas y Tecnicas. Centro Cientifico Tecnologico Conicet - Cordoba. Centro de Conocimiento, Formacion E Investigacion En Estudios Sociales.; ArgentinaFil: Rodríguez, Malvina Eugenia. Universidad Nacional de Villa Maria. Centro de Conocimiento, Formacion E Investigacion En Estudios Sociales. - Consejo Nacional de Investigaciones Cientificas y Tecnicas. Centro Cientifico Tecnologico Conicet - Cordoba. Centro de Conocimiento, Formacion E Investigacion En Estudios Sociales.; ArgentinaFederación Latinoamericana de Facultades de Comunicación2025-12info:eu-repo/semantics/articleinfo:eu-repo/semantics/publishedVersionhttp://purl.org/coar/resource_type/c_6501info:ar-repo/semantics/articuloapplication/pdfapplication/pdfapplication/pdfapplication/pdfhttp://hdl.handle.net/11336/291854Aminahuel, Aimé; Rodríguez, Malvina Eugenia; Deepfakes y desinformación en la era de la IA generativa: Discusiones sobre las consecuencias socio-políticas y los alcances normativos; Federación Latinoamericana de Facultades de Comunicación; Dia-logos de la Comunicacion; 1; 96; 12-2025; 11-351813-9248CONICET DigitalCONICETspainfo:eu-repo/semantics/altIdentifier/url/https://revistas.felafacs.com/index.php/dialogos/article/view/7info:eu-repo/semantics/openAccesshttps://creativecommons.org/licenses/by-nc/2.5/ar/reponame:CONICET Digital (CONICET)instname:Consejo Nacional de Investigaciones Científicas y Técnicas2026-08-25T15:05:17Zoai:ri.conicet.gov.ar:11336/291854instacron:CONICETInstitucionalhttp://ri.conicet.gov.ar/Organismo científico-tecnológicoNo correspondehttp://ri.conicet.gov.ar/oai/requestdasensio@conicet.gov.ar; lcarlino@conicet.gov.arArgentinaNo correspondeNo correspondeNo correspondeopendoar:34982026-08-25 15:05:18.187CONICET Digital (CONICET) - Consejo Nacional de Investigaciones Científicas y Técnicasfalse
dc.title.none.fl_str_mv Deepfakes y desinformación en la era de la IA generativa: Discusiones sobre las consecuencias socio-políticas y los alcances normativos
title Deepfakes y desinformación en la era de la IA generativa: Discusiones sobre las consecuencias socio-políticas y los alcances normativos
spellingShingle Deepfakes y desinformación en la era de la IA generativa: Discusiones sobre las consecuencias socio-políticas y los alcances normativos
Aminahuel, Aimé
Inteligencia Artificial
Deepfake
Desinformación
Legislaciones
title_short Deepfakes y desinformación en la era de la IA generativa: Discusiones sobre las consecuencias socio-políticas y los alcances normativos
title_full Deepfakes y desinformación en la era de la IA generativa: Discusiones sobre las consecuencias socio-políticas y los alcances normativos
title_fullStr Deepfakes y desinformación en la era de la IA generativa: Discusiones sobre las consecuencias socio-políticas y los alcances normativos
title_full_unstemmed Deepfakes y desinformación en la era de la IA generativa: Discusiones sobre las consecuencias socio-políticas y los alcances normativos
title_sort Deepfakes y desinformación en la era de la IA generativa: Discusiones sobre las consecuencias socio-políticas y los alcances normativos
dc.creator.none.fl_str_mv Aminahuel, Aimé
Rodríguez, Malvina Eugenia
author Aminahuel, Aimé
author_facet Aminahuel, Aimé
Rodríguez, Malvina Eugenia
author_role author
author2 Rodríguez, Malvina Eugenia
author2_role author
dc.subject.none.fl_str_mv Inteligencia Artificial
Deepfake
Desinformación
Legislaciones
topic Inteligencia Artificial
Deepfake
Desinformación
Legislaciones
purl_subject.fl_str_mv https://purl.org/becyt/ford/5.8
https://purl.org/becyt/ford/5
dc.description.none.fl_txt_mv La tecnología deepfake registra una utilización masiva a partir de los desarrollos de la Inteligencia Artificial Generativa, planteando nuevos desafíos en el campo de las políticas públicas y, específicamente, de las regulaciones implicadas en ámbitos como el de la propiedad intelectual. Ello se constata especialmente en Argentina, donde todavía no se cuenta con actualizaciones adecuadas de marcos normativos o políticas integrales que aborden la temática en un sentido preventivo. En este contexto, el artículo explora cómo la manipulación de contenido audiovisual puede afectar derechos humanos y digitales en el capitalismo de plataformas. Para ello, se propone una revisión general de las conceptualizaciones de fake news, hate speach y deepfake, incluyendo su uso en diferentes contextos como el entretenimiento, la política y la publicidad. Los conceptos se encuadran en la denominada “era de la posverdad”,esto es, el fenómeno de la desinformación potenciado por el desarrollo de tecnologías como el big data, el machine learning y la inteligencia artificial. En torno a la pregunta: ¿qué ocurre con la autoría y la manipulación ocultas en algunos contenidos creados por IA?, el diseño metodológico de este trabajo aborda un estudio del caso argentino, considerando un análisis de contenido de la comunicación gubernamental del presidente Milei y un análisis documental sobre ejemplos de utilización de IA en publicidad, producción audiovisual y campañas electorales, problematizando los vacíos jurídicos en la legislación argentina y en comparación con otros países de América Latina, que dificultan la protección ciudadana frente a estas tecnologías, así como la necesidad de adaptar las normativas existentes a la realidad digital actual. Finalmente, se presentan tres propuestas de abordaje: la alfabetización digital, el fact-checking y las políticas de regulaciones, que impulsen la creación de marcos legales más robustos y la colaboración entre gobiernos, instituciones y sociedad civil.
Deepfake technology is being used extensively thanks to developments in generative artificial intelligence, posing new challenges in the field of public policy and, specifically, in regulations relating to areas such as intellectual property. This is particularly evident in Argentina, where there are still no adequate updates to regulatory frameworks or comprehensive policies that address the issue in a preventive manner. In this context, the article explores how the manipulation of audiovisual content can affect human and digital rights in platform capitalism. To this end, it proposes a general review of the conceptualisations of fake news, hate speech and deepfake, to include their use in different contexts such as entertainment, politics and advertising. Regarding the question: what happens with the hidden authorship and manipulation in some content created by AI? the methodological design of this work addresses a case study in Argentina, considering a quantitative content analysis of President Milei's government communications and a qualitative documentary analysis of examples of AI use in advertising, audiovisual production, and election campaigns, highlighting legal loopholes in Argentine legislation and comparing it with other Latin American countries. Finally, three proposals are presented: digital literacy, fact-checking and regulatory policies to promote the creation of more robust legal frameworks and collaboration between governments, institutions and civil society.
A tecnologia deepfake registra uma utilização massiva a partir dos desenvolvimentos da inteligência artificial generativa, levantando novos desafios no campo das políticas públicas e, especificamente, das regulamentações envolvidas em áreas como a propriedade intelectual. Isso é especialmente evidente na Argentina, onde ainda não há atualizações adequadas dos marcos normativos ou políticas integrais que abordem o tema de forma preventiva. Neste contexto, o artigo explora como a manipulação de conteúdo audiovisual pode afetar os direitos humanos e digitais no capitalismo de plataformas. Para isso, propõe-se uma revisão geral das conceituações de fake news, discurso de ódio e deepfake, incluindo seu uso em diferentes contextos, como entretenimento, política e publicidade. Em torno da questão: o que acontece com a autoria e a manipulação ocultas em alguns conteúdos criados por IA? O desenho metodológico deste trabalho aborda um estudo de caso argentino, considerando uma análise quantitativa do conteúdo da comunicação governamental do presidente Milei e uma análise documental qualitativa sobre exemplos de utilização da IA em publicidade, produção audiovisual e campanhas eleitorais, problematizando as lacunas jurídicas na legislação argentina e em comparação com outros países da América Latina. Por fim, são apresentadas três propostas de abordagem: a alfabetização digital, a verificação de factos e as políticas de regulamentação, que impulsionam a criação de quadros jurídicos mais robustos e a colaboração entre governos, instituições e sociedade civil.
Fil: Aminahuel, Aimé. Universidad Nacional de Villa Maria. Centro de Conocimiento, Formacion E Investigacion En Estudios Sociales. - Consejo Nacional de Investigaciones Cientificas y Tecnicas. Centro Cientifico Tecnologico Conicet - Cordoba. Centro de Conocimiento, Formacion E Investigacion En Estudios Sociales.; Argentina
Fil: Rodríguez, Malvina Eugenia. Universidad Nacional de Villa Maria. Centro de Conocimiento, Formacion E Investigacion En Estudios Sociales. - Consejo Nacional de Investigaciones Cientificas y Tecnicas. Centro Cientifico Tecnologico Conicet - Cordoba. Centro de Conocimiento, Formacion E Investigacion En Estudios Sociales.; Argentina
description La tecnología deepfake registra una utilización masiva a partir de los desarrollos de la Inteligencia Artificial Generativa, planteando nuevos desafíos en el campo de las políticas públicas y, específicamente, de las regulaciones implicadas en ámbitos como el de la propiedad intelectual. Ello se constata especialmente en Argentina, donde todavía no se cuenta con actualizaciones adecuadas de marcos normativos o políticas integrales que aborden la temática en un sentido preventivo. En este contexto, el artículo explora cómo la manipulación de contenido audiovisual puede afectar derechos humanos y digitales en el capitalismo de plataformas. Para ello, se propone una revisión general de las conceptualizaciones de fake news, hate speach y deepfake, incluyendo su uso en diferentes contextos como el entretenimiento, la política y la publicidad. Los conceptos se encuadran en la denominada “era de la posverdad”,esto es, el fenómeno de la desinformación potenciado por el desarrollo de tecnologías como el big data, el machine learning y la inteligencia artificial. En torno a la pregunta: ¿qué ocurre con la autoría y la manipulación ocultas en algunos contenidos creados por IA?, el diseño metodológico de este trabajo aborda un estudio del caso argentino, considerando un análisis de contenido de la comunicación gubernamental del presidente Milei y un análisis documental sobre ejemplos de utilización de IA en publicidad, producción audiovisual y campañas electorales, problematizando los vacíos jurídicos en la legislación argentina y en comparación con otros países de América Latina, que dificultan la protección ciudadana frente a estas tecnologías, así como la necesidad de adaptar las normativas existentes a la realidad digital actual. Finalmente, se presentan tres propuestas de abordaje: la alfabetización digital, el fact-checking y las políticas de regulaciones, que impulsen la creación de marcos legales más robustos y la colaboración entre gobiernos, instituciones y sociedad civil.
publishDate 2025
dc.date.none.fl_str_mv 2025-12
dc.type.none.fl_str_mv info:eu-repo/semantics/article
info:eu-repo/semantics/publishedVersion
http://purl.org/coar/resource_type/c_6501
info:ar-repo/semantics/articulo
format article
status_str publishedVersion
dc.identifier.none.fl_str_mv http://hdl.handle.net/11336/291854
Aminahuel, Aimé; Rodríguez, Malvina Eugenia; Deepfakes y desinformación en la era de la IA generativa: Discusiones sobre las consecuencias socio-políticas y los alcances normativos; Federación Latinoamericana de Facultades de Comunicación; Dia-logos de la Comunicacion; 1; 96; 12-2025; 11-35
1813-9248
CONICET Digital
CONICET
url http://hdl.handle.net/11336/291854
identifier_str_mv Aminahuel, Aimé; Rodríguez, Malvina Eugenia; Deepfakes y desinformación en la era de la IA generativa: Discusiones sobre las consecuencias socio-políticas y los alcances normativos; Federación Latinoamericana de Facultades de Comunicación; Dia-logos de la Comunicacion; 1; 96; 12-2025; 11-35
1813-9248
CONICET Digital
CONICET
dc.language.none.fl_str_mv spa
language spa
dc.relation.none.fl_str_mv info:eu-repo/semantics/altIdentifier/url/https://revistas.felafacs.com/index.php/dialogos/article/view/7
dc.rights.none.fl_str_mv info:eu-repo/semantics/openAccess
https://creativecommons.org/licenses/by-nc/2.5/ar/
eu_rights_str_mv openAccess
rights_invalid_str_mv https://creativecommons.org/licenses/by-nc/2.5/ar/
dc.format.none.fl_str_mv application/pdf
application/pdf
application/pdf
application/pdf
dc.publisher.none.fl_str_mv Federación Latinoamericana de Facultades de Comunicación
publisher.none.fl_str_mv Federación Latinoamericana de Facultades de Comunicación
dc.source.none.fl_str_mv reponame:CONICET Digital (CONICET)
instname:Consejo Nacional de Investigaciones Científicas y Técnicas
reponame_str CONICET Digital (CONICET)
collection CONICET Digital (CONICET)
instname_str Consejo Nacional de Investigaciones Científicas y Técnicas
repository.name.fl_str_mv CONICET Digital (CONICET) - Consejo Nacional de Investigaciones Científicas y Técnicas
repository.mail.fl_str_mv dasensio@conicet.gov.ar; lcarlino@conicet.gov.ar
_version_ 1874775130281869312
score 13.265058

Publicaciones similares