Vybrané aspekty práva na spravodlivý proces a automatizácia rozhodovania

Roč.12,č.24(2021)

Andrej Krištofík

https://doi.org/10.5817/RPT2021-2-6

PDF
Abstrakt
S rozvojom technológií môžeme pozorovať aj ich prienik to oblasti justície, kedy v súčasnosti zastávajú rôzne pomocné analytické funkcie. Do akej miery môžeme túto pozíciu technológií v súdnej sieni rozširovať závisí nie len na vývoji technológií ale aj rámca, ktorý nastavuje právo. Pre súdne rozhodovania je rámec akýchkoľvek možných inovácií nastavený primárne právom na spravodlivý proces. Táto práca sa preto zameriava na posúdenie vplyvu automatizácie súdneho rozhodovania na včasnosť, či na prístup k súdu. Ďalej práca rozoberá aj nezaujatosť a nestrannosť, spolu s predstavením technických aspektov tohto problému, verejnosti a záverom sa venuje zostatkovým právam, z ktorých je najväčší priestor venovaný právu na odôvodnené rozhodnutie. Tieto aspekty potom spoločne tvoria právo na spravodlivý proces, s ktorým musí byť akákoľvek forma automatizácie v súlade.

Klíčová slova:
Automatizácia; automatizované rozhodovanie; právo na spravodlivý proces; ľudské práva; digitalizácia spravodlivosti; robosudcovia

Stránky:
s. 221–325
Reference

  1. Bahýľová, L. a kol. Ústava české republiky - komentář. Praha: Linde, 2010.
  2. Banaji, M. R., Greenwald, A. G. Blindspot: Hidden Biases of Good People. Delacorte Press, 2013.
  3. Bartoň, M., Kratochvíl, J., Kopa, Martin. Základní práva. Praha: Nakladatelství Leges, s.r.o., 2016.
  4. Cormen, T., H. et al. Introduction to algortihms. Cambridge: MIT Press, 2009.
  5. David, R. Ústava České republiky - Listina základních práv a svobod. Olomou: Vydavatelství Olomouc, 2005.
  6. Harris, D., O’Boyle, M., Warbrick, C. Law of the European Convention on Human Rights. New York: Oxford University Press, 2009.
  7. Hart, H. Pojem práva. Praha: Prostor, 2011.
  8. Kmec, J. et al. Evropská úmluva o lidských právech: komentář. Praha: Nakladatelství C. H. Beck, 2012.
  9. Knuth, D., E. Uměmí programování. 1.díl. Základní algoritmy.. Brno: Computer Press, 2008.
  10. Leanza, P., Pridal, O. The Right to a Fair Trial: Article 6 of the European Convention on Human Rights. Netherlands: Kluwer Law International.
  11. Loutocký, P. Vymahatelnost práva pomocí online řešení sporů. Praha: Wolters Kluwer, 2020.
  12. Mak, V. et al (eds.). RESEARCH HANDBOOK IN Data Science and Law. Northampton: Edward Elgar Publishing.
  13. Moeckli, D., Shah, S., Sivakumaran, S. International Human Rights Law. New York: Oxford University Press, 2010.
  14. Molek, P. Právo na spravedlivý proces. Praha: Wolters Kluwer, 2012.
  15. Nikolopoulos, C. Expert Systems: Introduction to First and Second Generation and Hybrid Knowledge Based Systems. New York: CRC Press - Taylor & Francis Group, 1997.
  16. Puppe, F. Systematic Introduction to Expert Systems: Knowledge Representations and Problem-Solving Methods. Berlín: Springer, 1993.
  17. Susskind, R. Online courts and the future of justice. Oxford: Oxford University Press, 2019.
  18. Svoboda, K., et al. Občanský soudní řád. 2. vydání. Praha: Nakladatelství C. H. Beck, 2017.
  19. Wagnerová, E. et al. Listina základních práv a svobod. Komentář. Praha: Wolters Kluwer, 2012.
  20. McCorduck, P. Machines Who Think: A Personal Inquiry into the History and Prospects of Artificial Intelligence. Boca Raton: Routledge & CRC Press, 2004.
  21. Barton, N. T.-L., Paul Resnick, and Genie. Algorithmic bias detection and mitigation: Best practices and policies to reduce consumer harms [online]. Brookings. 22. 5. 2019 [cit 6. 2. 2021]. https://www.brookings.edu/research/algorithmic-bias-detection-and-mitigation-best-practices-and-policies-to-reduce-consumer-harms/
  22. Bielen, S., Marneffe, W. Are Courts to Blame for Delays in Belgian Civil Procedures?: A Decomposition of Case Duration. Justice System Journal. 2017, č. 4, s. 399–420.
  23. Brown, T. B. et al. Language Models are Few-Shot Learners. arXiv:2005.14165 [cs]. 2020 [cit 28. 2. 2021]. http://arxiv.org/abs/2005.14165
  24. Citron, D. K. Technological Due Process. Washington University Law Review. 2008, č. 6, s. 1249–1313.
  25. Clune, J. AI-GAs: AI-generating algorithms, an alternate paradigm for producing general artificial intelligence. arXiv:1905.10985 [cs]. 2020 [cit 18. 3. 2021]. http://arxiv.org/abs/1905.10985
  26. Cuprík, R. Inteligentné hodinky merajú tep presne, v zahraničí odhaľujú vrahov [online]. SME [cit. 20. 3. 2021]. https://domov.sme.sk/c/22603692/mozu-zsuzsovej-hodinky-obstat-ako-dokaz-v-zahranici-odhalovali-vrahov.html
  27. Datar, A. The origins of “Justice must be seen to be done” [online]. Bar and Bench - Indian Legal news [cit 7. 3. 2021]. https://www.barandbench.com/columns/the-origins-of-justice-must-be-seen-to-be-done
  28. Desmarais, S. L., Lowder, E. M. Pretrial risk assessment tools: A primer for Judges, Prosecutors and Defense Attorneys [online]. MacArthur Foundation: Safety and Justice Challenge. [cit. 19.11.2020]. s. 12.
  29. Edel, F., Council of Europe. La durée des procédures civiles et pénales dans la jurisprudence de la Convention européenne des droits de l’homme. Strasbourg, France: Editions du Conseil de l’Europe, 2007.
  30. Goldenfein, J. Algorithmic Transparency and Decision-Making Accountability: Thoughts for Buying Machine Learning Algorithms. Rochester, NY: Social Science Research Network, 2019 [cit 27. 2. 2021]. https://papers.ssrn.com/abstract=3445873
  31. GPT-3. A robot wrote this entire article. Are you scared yet, human? | GPT-3 [online]. the Guardian. 8. 9. 2020 [cit 28. 2. 2021]. http://www.theguardian.com/commentisfree/2020/sep/08/robot-wrote-this-article-gpt-3
  32. Hayes, P., Van de Poel, I., Steen, M. Algorithms and values in justice and security. AI & SOCIETY. 2020, č. 3, s. 533–555.
  33. Hutcheson, J. Judgment Intuitive The Function of the Hunch in Judicial Decision. Cornell Law Review. 1929, č. 3, s. 274–288.
  34. Ibrahim, M. Justice for all: how technology is promoting public access [online]. Raconteur. 30. 11. 2018 [cit 23. 12. 2020]. https://www.raconteur.net/legal/technology-public-access-justice/
  35. Kitchin, R. Thinking critically about and researching algorithms. Information, Communication & Society. 2017, č. 1, s. 14–29.
  36. Kılınç, B. A Trial to Understand the Concept of Fair Trial. Selçuk Üniversitesi Sosyal Bilimler Enstitüsü Dergisi. 2016, č. 35, s. 315-324–324.
  37. Kok, B. C., Soh, H. Trust in Robots: Challenges and Opportunities. Current Robotics Reports. 2020, č. 4, s. 297–309.
  38. Kusner, M. J. et al. Counterfactual Fairness. V: Guyon, I. et al. (ed.). Advances in Neural Information Processing Systems 30. Curran Associates, Inc., 2017, s. 4066–4076. http://papers.nips.cc/paper/6995-counterfactual-fairness.pdf
  39. Lewis, P. J. D., Ted G. Exponential Laws of Computing Growth [online]. [cit 8. 3. 2021]. https://cacm.acm.org/magazines/2017/1/211094-exponential-laws-of-computing-growth/fulltext
  40. Maayan, E., Ronen, B., Coman, A. Assessing the Performance of a Court System: A Comprehensive Performance Measures Approach. International Journal of Public Administration. 2012, č. 11, s. 729–738.
  41. Markou, C., Deakin, S. Ex Machina Lex: Exploring the Limits of Legal Computability. Rochester, NY: Social Science Research Network, 2019 [cit 7. 3. 2021]. https://papers.ssrn.com/abstract=3407856
  42. McCarty, L. T. Reflections on TAXMAN: An Experiment in Artificial Intelligence and Legal Reasoning. Harvard Law Review. 1977, s. 837–893.
  43. Molnar, P., Gill, L. Bots at the Gate: A Human Rights Analysis of Automated Decision-Making in Canada’s Immigration and Refugee System. 2018 [cit 3. 3. 2021]. https://tspace.library.utoronto.ca/handle/1807/94802
  44. Paseková, E. Délka civilního řízení loni opět klesla, trestní se prodloužilo [online]. Česká justice. 21. 8. 2019 [cit 27. 11. 2020]. https://www.ceska-justice.cz/2019/08/delka-civilniho-rizeni-loni-opet-klesla-trestni-se-prodlouzilo/
  45. Paseková, E. Přetížení správního soudnictví se prohlubuje, NSS má přes dva a půl tisíce nevyřízených věcí [online]. Česká justice. 21. 8. 2019 [cit 2. 12. 2020]. https://www.ceska-justice.cz/2019/08/pretizeni-spravniho-soudnictvi-se-prohlubuje-nss-ma-pres-dva-pul-tisice-nevyrizenych-veci/
  46. Ribeiro, M. T., Singh, S., Guestrin, C. “Why Should I Trust You?”: Explaining the Predictions of Any Classifier. arXiv:1602.04938 [cs, stat]. 2016 [cit 27. 2. 2021]. http://arxiv.org/abs/1602.04938
  47. School, S. L. Increasing Transparency in Algorithmic- Decision-Making with Explainable AI [online]. Stanford Law School [cit 27. 2. 2021]. https://law.stanford.edu/publications/increasing-transparency-in-algorithmic-decision-making-with-explainable-ai/
  48. Ulenaers, J. The Impact of Artificial Intelligence on the Right to a Fair Trial: Towards a Robot Judge? Asian Journal of Law & Economics. 2020, č. 2, s. 1–38.
  49. Vincent, J. Twitter taught Microsoft’s friendly AI chatbot to be a racist asshole in less than a day [online]. The Verge. 24. 3. 2016 [cit 6. 3. 2021]. https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist
  50. Xue, Y., Van Hoeve, W.-J. Embedding Decision Diagrams into Generative Adversarial Networks. V: Rousseau, L.-M., Stergiou, K. (ed.). Integration of Constraint Programming, Artificial Intelligence, and Operations Research. 11494. Cham: Springer International Publishing, 2019, s. 616–632 [cit 9. 3. 2021]. Lecture Notes in Computer Science. http://link.springer.com/10.1007/978-3-030-19212-9_41
  51. Lauren, C. A Brief History of Automation [online]. Scadata. 30. 8. 2016 [cit 9. 3. 2021]. https://scadata.net/brief-history-automation/
  52. Federal Government’s Directive on Automated Decision-Making: Considerations and Recommendations | McCarthy Tétrault [online]. [cit 3. 3. 2021]. https://www.mccarthy.ca/en/insights/blogs/snipits/federal-governments-directive-automated-decision-making-considerations-and-recommendations
  53. OpenAI built a text generator so good, it’s considered too dangerous to release [online]. TechCrunch [cit 28. 2. 2021]. https://social.techcrunch.com/2019/02/17/openai-text-generator-dangerous/
  54. Otto, P. Přetížené justici by ulevili dosluhující soudci [online]. E15.cz [cit 3. 12. 2020]. https://www.e15.cz/domaci/pretizene-justici-by-meli-ulevit-dosluhujici-soudci-1368700
  55. Sourdin, T. Judge V Robot? Artificial Intelligence and judicial decision-making. University of New South Wales Law Journal [online]. 2018, č. 41, 1114-1133. http://www.unswlawjournal.unsw.edu.au/wp-content/uploads/2018/12/Sourdin.pdf
  56. Wood, J., Allan, N. Sinking the Italian torpedo: the recast Brussels Regulation [online]. International Law Office. 10. 2. 2015 [cit 25. 11. 2020]. https://www.internationallawoffice.com/Newsletters/Litigation/European-Union/RPC/Sinking-the-Italian-torpedo-the-recast-Brussels-Regulation
  57. Beaumartin proti Francúzsku, rozsudok Európskeho súdu pre ľudské práva, 24.11.1994 č. sťažnosti 15287/89
  58. Camilleri proti Malte, rozsudok Európskeho súdu pre ľudské práva, 16.03.2000 č. sťažnosti 51760/99
  59. Campbell a Fell proti Spojenému kráľovstvu, rozsudok Európskeho súdu pre ľudské práva, 28.06.1984 č. sťažnosti 7819/77
  60. Doroshenko proti Ukrajine, rozsudok Európskeho súdu pre ľudské práva, 26.05.2011 č. sťažnosti 1328/04
  61. Engel a ďalší proti Holandsku, rozsudok Európskeho súdu pre ľudské práva, 08.06.1976 č. sťažnosti 5100/71
  62. Findlay proti Spojenému kráľovstvu, rozsudok Európskeho súdu pre ľudské práva, 25.02.1997 č. sťažnosti 22107/93
  63. García Manibardo proti Španielsku, rozsudok Európskeho súdu pre ľudské práva, 15.02.2000 č. sťažnosti 38695/97
  64. Golder proti Spojenému kráľovstvu, rozsudok Európskeho súdu pre ľudské práva, 21.02.1975 č. sťažnosti 4451/70
  65. H proti Francúzsku, rozsudok Európskeho súdu pre ľudské práva, 24.10.1989 č. sťažnosti 10073/82
  66. Hauschildt proti Holandsku, rozsudok Európskeho súdu pre ľudské práva, 24.05.1989 č. sťažnosti 10486/83
  67. Kreuz proti Poľsku, rozsudok Európskeho súdu pre ľudské práva, 19.06.2001 č. sťažnosti 28249/95
  68. Nález Ústavného súdu zo dňa 30. marca 2010, sp. zn. Pl. ÚS 2/10
  69. Nález Ústavného súdu zo dňa 28. apríla 2005, sp. zn. Pl. ÚS 60/04
  70. Perez proti Francúzsku, rozsudok Európskeho súdu pre ľudské práva, 12.02.2004 č. sťažnosti 47287/99
  71. State v. Loomis [online]. [cit 1. 11. 2020]. https://harvardlawreview.org/2017/03/state-v-loomis/
  72. Tserkva Sela Sosulivka proti Ukrajine, rozsudok Európskeho súdu pre ľudské práva, 28.02.2008 č. sťažnosti 37878/02
  73. Urbanek proti Rakúsku, rozsudok Európskeho súdu pre ľudské práva, 09.12.2010 č. sťažnosti 35123/05
  74. High Level Expert Group on Artificial Inteligence. Brusel: Európska komisia. https://digital-strategy.ec.europa.eu/en/policies/expert-group-ai
  75. Open AI GPT Projects. https://openai.com/projects/
  76. WIPO Guide to the Uniform Domain Name Dispute Resolution Policy (UDRP). WIPO. https://www.wipo.int/amc/en/domains/guide/#c
  77. Ústavní zákon č. 2/1993 Sb. ve znění ústavního zákona č. 162/1998 Sb., listina základních práv a svobod
  78. Secretariat, T. B. of C. Directive on Automated Decision-Making [online]. 5. 2. 2019 [cit 20. 3. 2020]. https://www.tbs-sct.gc.ca/pol/doc-eng.aspx?id=32592
  79. Zákon č. 1/1993 Sb., Ústava České republiky.
  80. Zákon č. 549/1991 Sb., zákon České národní rady o soudních poplatcích.
  81. Zákon č. 6/2020 Sb., o soudech a soudcích.
  82. Zákon č. 99/1963 Sb., občanský soudní řád.
  83. Nariadenie európskeho parlamentu a rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica 95/46/ES (všeobecné nariadenie o ochrane údajov)
  84. Európsky dohovor o ľudských právach, v znení protokolov č. 11 a 14. Rada Európy.
  85. Algorithms and human rights - Study on the human rights dimensions of automated data processing techniques and possible regulatory implications [online]. COE [cit 7. 3. 2021]. https://edoc.coe.int/en/internet/7589-algorithms-and-human-rights-study-on-the-human-rights-dimensions-of-automated-data-processing-techniques-and-possible-regulatory-implications.html
  86. Anonymous. Communication Artificial Intelligence for Europe [online]. Shaping Europe’s digital future - European Commission. 25. 4. 2018 [cit 15. 5. 2020]. https://ec.europa.eu/digital-single-market/en/news/communication-artificial-intelligence-europe
  87. Anonymous. Quality of Public Administration - A Toolbox for Practitioners [online]. Shaping Europe’s digital future - European Commission. 4. 5. 2015 [cit 17. 3. 2021]. https://ec.europa.eu/digital-single-market/en/news/quality-public-administration-toolbox-practitioners
  88. Axess. Acquisition of Key Competences for Economic and Social Sustainability. Štrasburg: Erasmus+, 2017. http://www.axesslearning.eu/docs/AXESS-IO2-Snapshot-EU.docx
  89. CEPEJ. European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment [online]. Council of Europe. [cit 23.12.2020]. https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c
  90. ECHR. Overview 1959 – 2018 [online]. Štrasburg: Council of Europe, 2019, 12 s. [cit. 02.03.2020]. https://www.echr.coe.int/Documents/Overview_19592018_ENG.pdf
  91. FIALOVÁ, Eva. Algoritmické rozhodování orgánů veřejné moci [online]. Brno, 2017 [cit. 2021-03-19]. Dostupné z: <https://is.muni.cz/th/xfw84/>. Rigorózní práce. Masarykova univerzita, Právnická fakulta.
  92. High-level expert group on artificial intelligence. Ethics guidelines for trustworthy AI [online]. Európska komisia. 2019 [cit 01. 03. 2021]. https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
  93. High-level expert group on artificial intelligence. Policy and investment recommendations for trustworthy AI [online]. Európska komisia. 2019 [cit 01. 03. 2021]. https://ec.europa.eu/digital-single-market/en/news/policy-and-investment-recommendations-trustworthy-artificial-intelligence
  94. Mittelstadt, B., Russell, C., Wachter, S. Explaining Explanations in AI. Proceedings of the Conference on Fairness, Accountability, and Transparency. 2019, s. 279–288.
  95. MPO. Národní strategie umělé inteligence v České republice. Czech republic The Country for the Future, 2019. https://www.vlada.cz/assets/evropske-zalezitosti/umela-inteligence/NAIS_kveten_2019.pdf
  96. Northpointe. Practitioner’s Guide to COMPAS Core. Michigan: Equivant, 2016, 65 s. https://assets.documentcloud.org/documents/2840784/Practitioner-s-Guide-to-COMPAS-Core.pdf
  97. The ECHR in facts & figures 2019. ECHR. https://www.echr.coe.int/Documents/Facts_Figures_2019_ENG.pdf
  98. Violations by Article and by State 1959 - 2019. ECHR. https://www.echr.coe.int/Documents/Stats_viol tion_1959_2019_ENG.pdf
  99. WHITE PAPER On Artificial Intelligence - A European approach to excellence and trust. Brusel: Európska Komisia, 2020. https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf

Metriky

0

Crossref logo

0

250

Views

121

PDF views

Creative Commons License

Tato práce je licencována pod Mezinárodní licencí Creative Commons Attribution-ShareAlike 4.0.

Copyright © 2021 Andrej Krištofík

PDF