Начала законодательства для автономных систем искусственного интеллекта
https://doi.org/10.21683/1729-2646-2024-24-3-10-17
Аннотация
В статье предлагается метод формирования выделенного операционного контекста при разработке и внедрении автономных систем управления корпорациями на примере автономных систем для совета директоров. Значительную часть операционного контекста для автономных систем управления компаниями составляет регуляторная и правовая среда, в рамках которой корпорации осуществляют свою деятельность. С целью создания специального операционного контекста для автономных систем искусственного интеллекта формулировки локальных нормативных документов могут быть одновременно представлены в двух вариантах: для использования людьми и для использования автономными системами. В таком случае система искусственного интеллекта получает четко очерченный операционный контекст, который позволяет такой системе выполнять функции в рамках необходимых эксплуатационных качеств. Локальные нормативные акты, которые предусматривают специфику совместной работы физических лиц и автономных систем искусственного интеллекта, могут стать базой для формирования основ соответствующего законодательства, регулирующего разработку и внедрение автономных систем.
Об авторе
А. С. Романова
Московский физико-технический институт (национальный исследовательский университет)
Россия
Россия
Романова Анна Сергеевна – эксперт в области цифровой трансформации, к.э.н., MBA, LL.M, ALM, FCCA, свыше 15 лет опыта работы в крупнейших российских и международных компаниях, аспирант по направлению “Искусственный интеллект и машинное обучение”
Москва
Список литературы
1. Livermore M.A. Rule by Rules // Computational Legal Studies: The Promise and Challenge of Data-Driven Research. Edward Elgar Publishing, 2020. Pp. 238–264.
2. Hoffmann-Riem W. Legal Technology/Computational Law: Preconditions, Opportunities and Risks // Journal of Cross-disciplinary Research in Computational Law. 2020. Vol. 1. No. 1. Pp. 1-16.
3. Wolfram S. Talking about the Computational Future at SXSW 2013: Stephen Wolfram Blog. URL: http://blog.stephenwolfram.com/2013/03/talking-about-the-computational-future-at-sxsw-2013/ (дата обращения 24.06.2024).
4. Wolfram S. Computational Law, Symbolic Discourse, and the AI Constitution // Ethics of Artificial Intelligence / Ed.: S. Matthew Liao. New York, Oxford Academic, 2020. Pp. 155-180.
5. Business Insider. A Venture Capital Firm Just Named An Algorithm To Its Board Of Directors – Here’s What It Actually Does. 13 May 2014. URL: https://www.businessinsider.com/vital-named-to-board-2014-5 (дата обращения 24.06.2024).
6. Heyn H., Subbiah P., Linder J. et al. Setting AI in context: A case study on defining the context and operational design domain for automated driving // International Working Conference on Requirements Engineering: Foundation for Software Quality. 2022. Pp.199-215.
7. SAE International Recommended Practice, Taxonomy and Definitions for Terms Related to Driving Automation Systems for On-Road Motor Vehicles: SAE Standard J3016_201609. Revised September 2016. Issued January 2014. URL: https://saemobilus.sae.org/content/j3016_201609 (дата обращения 24.06.2024).
8. BSI BS PAS 1883-2020 Operational Design Domain (ODD) taxonomy for an automated driving system (ADS) – Specification.
9. Ethics of Connected and Automated Vehicles. Recommendations on road safety, privacy, fairness, explainability and responsibility. Luxembourg: Publications Office of the European Union, 2020. URL: https://data.europa.eu/doi/10.2777/93984 (дата обращения 24.06.2024).
10. Torbert P.M. Globalizing Legal Drafting: What the Chinese Can Teach Us About Ejusdem Generis and All that // The Scribes Journal of Legal Writing. 2007. P. 41. URL: https://ssrn.com/abstract=2263387 (дата обращения 24.06.2024).
11. Lin P. Why Ethics Matters for Autonomous Cars // Autonomes Fahren. Technische, rechtliche und gesellschaftliche Aspekte / Eds: Markus Maurer, J. Christian Gerdes, Barbara Lenz, Hermann Winner. Springer Vieweg Berlin, Heidelberg, 2015. Pp. 69-75.
12. Awad E., Dsouza S., Kim R. et al. The Moral Machine experiment // Nature. 2018. Vol. 563. Pp.59-64.
13. Gerner-Beuerle C. Algorithmic Trading and the Limits of Securities Regulation // Digital Finance in Europe: Law, Regulation, and Governance / Eds: Emilios Avgouleas, Heikki Marjosola. Berlin, Boston: De Gruyter, 2022. Pp. 109-140.
14. OECD Legal Instruments. Recommendation of the Council on Principles of Corporate Governance. 2023. URL: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0413 (дата обращения: 24.06.2024).
15. Millar J. 2017. Ethics Settings for Autonomous Vehicles // Robot Ethics 2.0 / Eds: P. Lin, K. Abney, R. Jenkins. New York: Oxford University Press, 2017. Pp. 20–34.
16. Lin P. Is tesla responsible for the deadly crash on auto-pilot? Maybe. Forbes, July, 1, 2016. URL: https://www.forbes.com/sites/patricklin/2016/07/01/is-tesla-responsible-for-the-deadly-crash-on-auto-pilot-maybe/ (дата обращения 24.06.2024).
17. Zuiderveen Borgesius F.J. Strengthening legal protection against discrimination by algorithms and artificial intelligence // The International Journal of Human Rights. 2020. Vol. 24. Pp. 1572-1593.
18. Geisslinger M., Poszler F., Lienkamp M. An ethical trajectory planning algorithm for autonomous vehicles // Nature Machine Intelligence. 2023. Vol. 5. Pp. 137-144.
19. Persad G., Wertheimer A., Emanuel E.J. Principles for allocation of scarce medical interventions // The Lancet. 2009. Vol. 373 (9661). Pp. 423-431.
20. IPCG. Corporate Governance Code 2018. URL: https://www.ecgi.global/publications/codes/corporate-governance-code-2018-revised-in-2023 (дата обращения: 24.06.2024).
21. Vasarhelyi M.A., Halper F. The Continuous Audit of Online Systems // Auditing: A Journal of Practice & Theory. 1991. Vol. 10(1). Pp. 110-125.
22. Vasarhelyi M.A., Alles M.G., Williams K.T. Continuous Assurance for the Now Economy. The Institute of Chartered Accountants in Australia, 2010. 89 p.
23. KPMG. Astrus Third Party Intelligence. Know your risks. Introducing Astrus Enhanced Due Diligence and Astrus Monitoring. 2016. URL: https://assets.kpmg.com/content/dam/kpmg/uk/pdf/2016/10/astrus-third-party-intelligence.pdf (дата обращения 24.06.2024).
24. KPMG. Unlocking the Potential of RegTech. 2024. URL: https://assets.kpmg.com/content/dam/kpmg/ie/pdf/2023/02/ie-regtech-potential.pdf (дата обращения: 24.06.2024).
25. Jacobs T. ADNOC’s New CTO Shares Innovation Philosophy // Journal of Petroleum Technology. 2020. Vol. 72(06). Pp. 22-23.
26. CMA. Corporate Governance Regulations. 2023. URL: https://www.ecgi.global/sites/default/files/codes/documents/corporategovernanceregulations1_2023.pdf (дата обращения: 24.06.2024).
27. SCMP. ChatGPT not taking Wall Street jobs as banks crack down on the AI chatbot over inaccuracies, regulatory concerns. 2023. URL: https://www.scmp.com/tech/tech-trends/article/3211517/chatgpt-not-taking-wall-street-jobs-banks-crack-down-ai-chatbot-over-inaccuracies-regulatory (дата обращения: 24.06.2024).
28. Murinde V., Rizopoulos E., Zachariadis M. The impact of the FinTech revolution on the future of banking: Opportunities and risks // International Review of Financial Analysis. 2022. Vol. 81. Pp. 102-103.
29. Savage I. Comparing the fatality risks in United States transportation across modes and over time // Research in Transportation Economics. 2013. Vol. 43. Pp. 9-22.
Рецензия
Для цитирования:
Романова А.С. Начала законодательства для автономных систем искусственного интеллекта. Надежность. 2024;24(3):10-17. https://doi.org/10.21683/1729-2646-2024-24-3-10-17
For citation:
Romanova A.S. Fundamentals of legislation in autonomous artificial intelligence systems. Dependability. 2024;24(3):10-17. (In Russ.) https://doi.org/10.21683/1729-2646-2024-24-3-10-17
Просмотров:
471
ISSN 1729-2646 (Print)
ISSN 2500-3909 (Online)
ISSN 2500-3909 (Online)
Послать статью по эл. почте 