Inteligencia artificial y problemas de decisión: la necesidad de un contexto ético

Artificial intelligence and decision making problems: The need for an ethical context

José Luis Verdegay , M.ª Teresa Lamata , David Pelta , Carlos Cruz

Suma de Negocios, 12(27), xx-xx, julio-diciembre 2021, ISSN 2215-910X

http://doi.org/

Recibido el 06 de abril de 2021
Aceptado el 23 de abril de 2021
Online el 28 de mayo de 2021

Resumen

Los computadores procesan información y toman decisiones. Hasta hace poco, las decisiones que tomaban no eran complejas, pero debido a los incesantes avances tecnológicos que se producen, los sistemas basados en inteligencia artificial están logrando niveles de competencia en la toma de decisiones que en muchos contextos igualan o superan a las personas. Se trata de sistemas autónomos de decisión que, si bien pueden aumentar la capacidad y eficiencia de las personas en sus ámbitos de actuación, también podrían sustituirlas, algo que preocupa al conjunto de la sociedad. Evitar disfunciones en estos sistemas es un objetivo social, científico y tecnológico prioritario, que exige contar con modelos teóricos, que recojan toda la riqueza y variedad de los problemas de decisión, que definan precisamente los elementos que los caracterizan y que atiendan los planteamientos éticos que deben guiar su funcionamiento. Este artículo describe en sendas secciones cada uno de estos aspectos.


Palabras clave:
Inteligencia artificial,
sistemas autónomos de decisión,
procesos de decisión,
problemas de decisión,
ética, concurrencia.

Códigos JEL:
A13, A14, Y80, Y90, Z19

Abstract

Computers process information and make decisions. Until recently, the decisions they made were not complex, but due to the incessant technological advances that occur, systems based on Artificial Intelligence are achieving levels of competence in decision-making that in many contexts equal or exceed people. These are Autonomous Decision Systems that, although they can increase the capacity and efficiency of people in their fields of action, could also replace them, something that worries the whole of Society. Avoiding missfunctions in these systems is a priority social, scientific and technological objective, which requires having theoretical models that collect all the richness and variety of decision problems, that define precisely the elements that characterize them and that address the ethical approaches which should guide its operation. This paper describes each of these aspects in a separate section.


Keywords:
Artificial Intelligence,
autonomous decision systems,
decision processes,
decision problems,
ethics, concurrency.

Artículo Completo
Bibliografía

Baum, S. D. (2020). Social choice ethics in artificial intelligence. Artificial Intelligence and Society, 35(1), 165-176.

Bazaraa, M. S., Sherali, H. D., & Shetty, C. M. (2013). Nonlinear programming: Theory and algorithms. John Wiley & Sons.

Bellman, R. E., & Zadeh, L. A. (1970). Decision-making in a fuzzy environment. Management Science, 1, B-141-B-164.

Dutton, T. (2019). An overview of national AI strategies. https://medium.com/politics-ai/an-overview-of-national-ai-strategies-2a70ec6edfd

ENIA. (2020). Estrategia nacional de inteligencia artificial. https://www.lamoncloa.gob.es/presidente/actividades/Documents/2020/ENIAResumen2B.pdf

European Group on Ethics in Science and New Technologies: Statement on A. I. (2018). Robotics and Autonomous Systems. European Commission. Directorate-General for Research and Innovation Unit RTD.01

Foot, P. (1967). The problem of abortion and the doctrine of the double effect. Oxford Review, 5, 5-15.

Futureoflife. (2017). Asilomar principles. https://futureoflife.org/ai-principles

Govia, L. (2020). Coproduction, ethics and artificial intelligence: A perspective from cultural anthropology. Journal of Digital Social Research, 2(3), 42-64.

Hejase, H. J., Hamdar, B., Hashem, F., & Bou, S. R. (2017). Decision making under stress: An exploratory study in Lebanon. Journal of Middle East and North Africa Sciences (MENA Sci.), 3(12), 1-16.

Hickok, M. (2021). Lessons learned from AI ethics principles for future actions. Artificial Intelligence and Ethics, 1(1), 41-47. 

Informatics Europe. (2018). When computers decide: European recommendations on machine-learned automated decision making. Informatics Europe & EUACM. https://www.informatics-europe.org/publications.html

Lamata, M. T., Pelta, D. A., & Verdegay, J. L. (2021). The role of the context in decision and optimization problems. En M.-J. Lesot & C. Marsala (eds.), Fuzzy Approaches for soft computing and approximate reasoning: Theories and applications. studies in fuzziness and soft computing (pp. 75-84). Springer Cham. https://doi.org/10.1007/978-3-030-54341-9_7

Lamata, M. T., Pelta, D. A., & Verdegay, J. L. (2018). Fuzzy information and contexts for designing automatic decision-making systems. En Advances in artificial intelligence. Lecture notes in artificial intelligence (pp. 174-183) 11160. Springer Cham 174-183. https://doi.org/10.1007/978-3-030-00374-6_17

Lindley, D. V. (1971). Making decisions. John Wiley & Sons Ltd.

Ministerio de Asuntos Económicos y Transformación Digital. (2020a). Plan España Digital 2025. https://portal.mineco.gob.es/RecursosArticulo/mineco/prensa/ ficheros/noticias/2018/Agenda_Digital_2025.pdf

Ministerio de Asuntos Económicos y Transformación Digital. (2020b). Plan Nacional de Competencias Digitales. https://portal.mineco.gob.es/RecursosArticulo/ mineco/ministerio/ficheros/210127_plan_nacional_de_competencias_digitales.pdf

Ministerio de Ciencia, Innovación y Universidades. (2019). Estrategia Española de I+D+I en Inteligencia Artificial. https://www.ciencia.gob.es/stfls/MICINN/Ciencia/Ficheros/Estrategia_Inteligencia_Artificial_IDI.pdf

Nath, R., & Sahu, V. (2020). The problem of machine ethics in artificial intelligence. Artificial Intelligence and Society, 35(1), 103-111.

Observatorio de RSC. (s. f.). La responsabilidad social corporativa (RSC). http://observatoriorsc.org/la-rsc-que-es/

Ríos, S. (1976). Análisis de decisiones. ICE Ediciones.

Schwartz, R., Dodge, J., Smith, N. A., & Etzioni, O. (2019). Allen Institute for AI, Seattle, Washington, USA. Carnegie Mellon University, Pittsburgh, Pennsylvania, USA. University of Washington, Seattle, Washington, USA July 2019. arXiv preprint arXiv:1907.10597

Simon, H. (1960). The new science of management decision. Harper & Brothers.

Smithson, M. (1989). Ignorance and uncertainty: Emerging paradigms. Springer Verlag.

Strubell, E., Ganesh, A., & McCallum, A. (2019). Energy and policy considerations for deep learning in NLP. En 57th Annual Meeting of the Association for Computational Linguistics (ACL). Florence, Italy. (arXiv:1906.02243)

Thaler, R. H., & Sunstein, C. R. (2008). Nudge: Improving decisions about health, wealth, and happiness. Yale University Press.

United Nations. (1987). Our common future: Brundtland Report. 20 March 1987.

Verdegay, J. L. (2019). ¿En qué piensan los algoritmos? Discurso de Apertura del Curso Académico 2019-2020 de la Universidad de Granada. Granada. https://digibug.ugr.es/handle/10481/57034

Verdegay, J. L. (2020). Consideraciones éticas sobre el diseño, desarrollo y aplicación de los sistemas autónomos de decisión. Revista Cubana de Transformación Digital y Cibersociedad, 1(1), 75-95. https://rctd.uic.cu/rctd/article/view/6

Yankelevich, D. (2017). Prediciendo un futuro predicho. https://www.linkedin.com/pulse/prediciendo-un-futuro-predicho-daniel-yankelevich/?originalSubdomain=es

Zadeh, L. A. (1965). Fuzzy sets. Information and Control, 8(3), 338-353.

PDF
EPUB

Instituciones

Universidad de Granada. Granada, España
Copyright © 2021. Fundación Universitaria Konrad Lorenz, Colombia

(Visited 29 times, 1 visits today)