Podmiotowość prawna sztucznej inteligencji

prof. dr hab. Janusz Niczyporuk

Katedra Postępowania Administracyjnego

Uniwersytet Marii Curie-Skłodowskiej

ORCID: 0000-0003-1632-1784

RECENZENCI prof. dr hab. Mirosław Karpiuk, prof. dr hab. Mirosław Sadowski

REDAKCJA JĘZYKOWA Lexeme (Agata Sawicka-Korgol)

PROJEKT OKŁADKI 4IDEA (Gabriela Chołuj)

Na okładce wykorzystano reprodukcję obrazu Composition 7 autorstwa Wassilego Kandinskiego

Copyright © by Instytut Wymiaru Sprawiedliwości, Warszawa 2021

ISBN 978-83-66344-83-9

WYDAWNICTWO INSTYTUTU WYMIARU SPRAWIEDLIWOŚCI

ul. Krakowskie Przedmieście 25, 00-071 Warszawa

SEKRETARIAT tel.: (22) 630-94-53, fax: (22) 630-99-24, e-mail: wydawnictwo@iws.gov.pl

Problematyka prawna z zakresu sztucznej inteligencji nie została dotąd gruntownie opracowana, chociaż dostrzega się od dłuższego czasu taką konieczność. Co prawda można dzisiaj spotkać publikacje prawnicze dotyczące sztucznej inteligencji, w tym jedno spełniające kryterium monografii, lecz są one stosunkowo nieliczne[1]. Z pewnością nie wolno ich zakwalifikować do dogmatyki prawa, ponieważ nie mogły jeszcze pokusić się o typową analizę prawniczą, albowiem sztuczna inteligencja jest właściwie pozbawiona regulacji prawnej. Dlatego próbują one wyodrębnić najpierw koncepcję prawniczą, która pozwoli dopiero uregulować prawnie sztuczną inteligencję. Przez koncepcję prawniczą należy rozumieć zbiór poglądów umożliwiający opracowanie naukowe zagadnienia badawczego, którego przedmiotem będzie sztuczna inteligencja. W gruncie rzeczy chodzi o zbiór poglądów z zakresu najczęściej filozofii prawa i informatyki prawa, które mają za przedmiot badawczy sztuczną inteligencję. Niejednokrotnie spotykamy również opracowania, które można w pewnym stopniu uznać za prawnicze, bo podejmują rozważania nad różnymi aspektami prawnymi sztucznej inteligencji, jednak są one prowadzone na marginesie innej zupełnie problematyki. Oczywiście nie należy ich tutaj pomijać, gdyż mają znaczenie propedeutyczne, dzięki czemu można lepiej zrozumieć istotę sztucznej inteligencji. W konsekwencji nieodzowne stają się badania podstawowe nad sztuczną inteligencją, które muszą teraz skoncentrować się na kluczowych zagadnieniach, by można było ostatecznie wypracować wyodrębnioną prawniczo teorię naukową.

Za wstęp do opracowania problematyki prawnej sztucznej inteligencji niech posłuży prezentacja jej rozwoju na przestrzeni wielu lat. Rozwój ten nie przebiegał jednostajnie, można w nim wyeksponować kamienie milowe. Zalicza się do nich przeważnie: definicję pierwszych funkcji rekonkurencyjnych – 1800 r. (L. Kronecker); pierwsze modele matematyczne, opracowanie maszyny analitycznej – 1830 r. (C. Babbage); stworzenie maszyny abstrakcyjnej – 1936 r. (A. Turing); zaprojektowanie sieci neuronów realizujących tak zwaną kompletność A. Turinga – 1943 r. (W.S. McCulloch, W. Pitts); rozpoczęcie intensywnych badań nad sztuczną inteligencją, pojawienie się terminu „sztuczna inteligencja” i próby określenia go – 1956 r. (A. Newell, H. Simon, J. McCarthy, M. Minsky, A. Samuel); narodziny sieci neuronowych z Perceptonem – 1958 r.; popularyzację sztucznej inteligencji dzięki algorytmowi wstecznej propagacji błędów – 1986 r.; rozkwit data miningu, stosowanie sztucznej inteligencji w medycynie i logistyce – 1991 r.; wygraną IBM Deep Blue w szachy klasyczne z mistrzem G. Kasparowem – 1997 r.; pierwszy konkurs z grantem dla autonomicznych pojazdów – zorganizowany przez amerykańską agencję DARPA – 2004 r.; pierwsze zastosowanie głębokiego uczenia, konkurs ImageNet Challenge – 2012 r.; wygraną komputera w japońską grę Shogi – 2014 r.; wygraną programu AlphaGo przygotowanego przez Deepmind w chińską grę Go – 2015 r.; wygraną programu DeepStack w pokera z Texas Holdem – 2017 r. [2].

Na początku trzeba również wyjaśnić pojęcie sztucznej inteligencji, które oddaje jej charakter. Odzwierciedla ono bowiem całościowe ujęcie leżącego u jego podstaw zjawiska, przy tym jest zarazem myślowym odpowiednikiem powiązanego z nią terminu. Natomiast termin „sztuczna inteligencja” jest nazwą, która składa się z podwójnego połączenia wyrazowego z wyznaczonym konwencjonalnie znaczeniem. W takim połączeniu wyrazowym występuje rzeczownik „inteligencja” i przymiotnik „sztuczna”. Sam rzeczownik „inteligencja” oznacza zazwyczaj zdolność do postrzegania, analizy i adaptacji w zmiennym otoczeniu. Z kolei przymiotnik „sztuczna” podkreśla najczęściej stworzenie przez człowieka w celu zastąpienia naturalnego odpowiednika. Jakkolwiek termin „sztuczna inteligencja” jest przeważnie używany w pełnym rozwinięciu, to jednak spotykamy równolegle jego akronim, który został stworzony w języku polskim (SI) lub zapożyczony z języka angielskiego (AI – Artificial Intelligence). Termin ten po raz pierwszy sformułował J. McCarthy podczas słynnej konferencji pod tytułem Dartmouth Summer Research Project on Artificial Intelligence w 1956 r. (Dartmouth College Hanover, New Hempshire, USA), która dotyczyła możliwości użycia komputerów poza ich podstawowym przeznaczeniem, jakim były wówczas długie i skomplikowane obliczenia numeryczne[3]. Chociaż sam termin jest mało precyzyjny, to jednak stosuje się go powszechnie. Ponadto wyparł stosowanie innych, bliskoznacznych, takich jak między innymi: maszyna inteligentna (Machine Intelligence), inteligencja obliczeniowa (Computational Intelligence), modelowanie obliczeniowe (Computational Modelling).

Jeżeli chodzi o zakres pojęcia sztucznej inteligencji, to wypada teraz odnieść się do określeń, które nie mają charakteru prawnego[4]. Wynika to z przeświadczenia, że bardziej miarodajne są dzisiaj określenia sztucznej inteligencji o innym charakterze niż prawny, gdyż zostały ukształtowane wcześniej i prezentują zaawansowany poziom rozwoju. Początkowo sztuczna inteligencja była utożsamiana tylko z konstruowaniem maszyn, o których działaniu dałoby się powiedzieć, że są podobne do ludzkich przejawów inteligencji[5]. Obecnie sztuczną inteligencję przedstawia się zarówno jako dziedzinę wiedzy zajmującą się rozwiązywaniem zagadnień efektywnie niealgorymizowanych, opartych na modelowaniu wiedzy, jak też dział informatyki zajmujący się badaniami nad systemami inteligentnymi, ich modelowaniem, konstrukcją oraz wykorzystaniem do wspomagania i substytucji pracy umysłowej człowieka oraz do głębszego zrozumienia ludzkiego sposobu rozumowania[6]. W rezultacie sztuczna inteligencja pozwala dzisiaj dookreślić: procesy technologiczne oparte na logice rozmytej, systemy ekspertowe, programy mechaniczne tłumaczące teksty, sieci neuronowe, programy uczące się, programy poszukujące i analizujące dane, programy rozpoznające mowę, programy rozpoznające pismo, programy tworzące dzieła literackie i artystyczne[7]. Ostatnio zauważa się dodatkowo, że sztuczna inteligencja jest pewną kwantyfikowalną właściwością, odnoszącą się do sfery przetwarzania danych (a w konsekwencji reakcji prowadzących do pożądanej homeostazy ze światem zewnętrznym), która może, lecz nie musi, być związana z samoświadomością[8].

Określenie zakresu pojęcia sztucznej inteligencji, jeżeli nie ma charakteru prawnego, wymaga też uwzględnienia stanowisk krytycznych. Przede wszystkim należy tutaj dostrzec, że krytyka sztucznej inteligencji jest uwikłana w jej antropomorfizację. Nieustannie próbuje się bowiem oceniać ją z perspektywy cech ludzkich i motywów ludzkiego zachowania. Przeciwieństwem sztucznej inteligencji jest bowiem „rzeczywista inteligencja”, którą można identyfikować wyłącznie z inteligencją człowieka[9]. Jeżeli sztuczna inteligencja osiągnie poziom inteligencji człowieka, to nie powinna dłużej być określana tym terminem, gdyż nie można przecież dysponować „podrobioną inteligencją”[10]. Natomiast osiągnięcie przez sztuczną inteligencję niższego poziomu rodzi pytanie o sens jej wyodrębnienia. Skoro nie może ona równać się inteligencji człowieka, tym samym okazuje się co najwyżej „połowiczną inteligencją”, bo spełnia nasze założenia tylko częściowo. W relacji do inteligencji ludzkiej widać jeszcze niechęć do afirmacji sztucznej inteligencji, która ujawnia się przecież jako kontrowersyjny produkt postępu naukowo-technicznego. Dla niektórych sztuczna inteligencja jest bowiem do jakiegoś stopnia „obcą inteligencją”[11]. Trudno również zaprzeczyć, że sztuczna inteligencja jest przybliżonym odtworzeniem inteligencji człowieka, co uprawnia do uznania jej również za „symulowaną inteligencję”. Była ona początkowo utożsamiana z cyborgami, które są połączeniem człowieka i maszyny, jednak związane z tym nadzieje okazały się utopijne, ponieważ realizacja procesów życiowych przez urządzenia techniczne jest obarczona negatywnymi skutkami „alternatywnej inteligencji”.

Niewątpliwie sztuczna inteligencja jest kluczowym pojęciem dla procesu wdrażania nowoczesnych technologii. Przez nowoczesne technologie wolno dzisiaj rozumieć określoną wiedzę technologiczną w postaci wartości niematerialnych i prawnych, w szczególności wyniki badań i prac rozwojowych, która umożliwia wytwarzanie nowych lub udoskonalonych wyrobów lub usług i która jest stosowana w świecie przez okres nie dłuższy niż ostatnich pięć lat[12]. Wszystkie elementy nowoczesnych technologii, do których możemy standardowo zaliczyć oprogramowanie, usługi, bazy danych czy urządzenia, charakteryzują te same cechy, czyli: szybkość (gwałtowne zmiany rynku w obszarze usług, powiększający się w dużym tempie obszar innowacji technicznej, zwłaszcza w kontekście rozwoju sieci, badań naukowych w zakresie przechowywania danych), globalizacja (nowoczesne technologie umożliwiają globalną wymianę usług w czasie rzeczywistym), przedsiębiorczość (tworzenie karteli w celu wspólnego przeprowadzania badań na rzecz innowacji, partnerstwa publiczno-prywatnego), partycypacja społeczna (tworzenie rozwiązań innowacyjnych przez użytkowników sieci, rozwój mediów społecznościowych, crowdsourcing – wymiana myśli, koncepcji przyczynia się do rozwoju technologii i innowacji), konwergencja (łączenie wielu obszarów działania człowieka)[13]. Ponadto można jeszcze dodać, że sztuczna inteligencja to zbiór nowoczesnych technologii łączących dane, algorytmy i moc obliczeniową[14].

Bez wątpienia należy sztuczną inteligencję identyfikować dalej z technologią cyfrową, która stanowi nowoczesną technologię opartą równocześnie na technice cyfrowej i systemach informatycznych. W tym kontekście wolno również przyjąć, że technika cyfrowa zajmuje się badaniem układów cyfrowych, natomiast system informatyczny można określić jako zbiór powiązanych ze sobą elementów, którego funkcją jest przetwarzanie danych przy użyciu techniki komputerowej. Tak naprawdę technologia cyfrowa sprowadza się do działań natury technicznej, ekonomicznej i organizacyjnej, które wprowadzają urządzenia cyfrowe i systemy cyfrowe do rozmaitych dziedzin życia człowieka. Przez urządzenia cyfrowe należy wtedy rozumieć wszystkie urządzenia, których zasadniczymi elementami są układy cyfrowe. Natomiast systemy cyfrowe oznaczają systemy informatyczne, które są oparte na technice cyfrowej. Technologia ta zakłada najczęściej rozbicie komunikatów, sygnałów lub form komunikacji między urządzeniem tworzącym a urządzeniem odbierającym za pomocą ciągu informacji w kodzie binarnym[15]. Obecnie doszło do upowszechnienia technologii cyfrowej, ponieważ jest ona najskuteczniejszym sposobem zmagania się z ogromną ilością informacji, jakiej musi, niestety, używać człowiek. Praktycznie cała współczesna elektronika zbudowana została w technologii cyfrowej, a elektronika wykorzystująca technikę analogową wychodzi z użytku. W konsekwencji mamy dzisiaj do czynienia z różnorodnymi produktami technologii cyfrowej, takimi jak chociażby: dokument elektroniczny, podpis elektroniczny, skrzynka elektroniczna, usługi elektroniczne, obrót elektroniczny.

W tym kontekście należy jeszcze podkreślić, że Unia Europejska zamierza wspierać cyfryzację swoich gospodarek i społeczeństw poprzez stworzenie nowego programu finansowania „Cyfrowa Europa” na lata 2021–2027[16]. Po konsultacjach ma on ostatecznie uzyskać formę rozporządzenia Parlamentu Europejskiego i Rady, czyli przynależeć do źródeł prawa unijnego, które są wiążące dla wszystkich państw członkowskich Unii Europejskiej. Celem programu jest zwiększenie zdolności Unii Europejskiej w kluczowych obszarach technologii cyfrowych poprzez ich wdrożenie na wielką skalę oraz zapewnienie w Unii Europejskiej szerszego upowszechnienia i większej absorbcji technologii cyfrowych w obszarach interesu publicznego oraz w sektorze prywatnym. Konkretnie program ten ma zapewnić finansowanie projektów w pięciu ważnych obszarach, takich jak: obliczenia superkomputerowe, sztuczna inteligencja, cyberbezpieczeństwo, zaawansowane umiejętności cyfrowe, szerokie wykorzystywanie technologii cyfrowych. Oczywiście nie może nikogo dziwić, że wśród tych obszarów znalazła się sztuczna inteligencja, ponieważ rozwijanie zdolności w jej zakresie stanowi kluczowy czynnik, który wspiera proces transformacji cyfrowej. Dlatego postuluje się budowę i wzmocnienie podstawowych zdolności w zakresie sztucznej inteligencji, takich jak zasoby danych i biblioteki algorytmów, oraz zapewnienie ich dostępności, jak również wzmocnienie i wsparcie placówek badawczych zajmujących się sztuczną inteligencją.

Stosowanie nowoczesnych technologii z wykorzystaniem sztucznej inteligencji stawia różnorodne wyzwania. Wśród nich szczególne znaczenie mają wyzwania prawne, ponieważ ostatecznie determinują one rozwój sztucznej inteligencji. Regulacja prawna może przecież umożliwić wdrażanie nowoczesnych technologii, ale również ograniczać ich funkcjonowanie czy nawet niekiedy wyeliminować. Oczywiście znajduje to odbicie na różnych płaszczyznach regulacji prawnej – począwszy od zasad funkcjonowania władz publicznych, obowiązków i zadań państwa w nowych warunkach rozwojowych, po dopuszczalne granice ingerencji państwa w życie jednostki, całego społeczeństwa i jego poszczególnych grup, z uwzględnieniem zagadnień związanych z prawami podstawowymi i wolnościami jednostki, zarówno w relacji państwo – jednostka, jak i jednostka – jednostka[17]. Z konieczności wyodrębnia się równocześnie prawo nowych technologii jako zespół norm prawnych, które odnoszą się do obszarów niezbędnej regulacji w sferze relacji o charakterze tak publicznym, jak i prywatnym, na które bezpośredni wpływ wywierają nowoczesne technologie[18]. Przy tym wydaje się konieczne odnotowanie, że zwycięża dzisiaj koncepcja rozdzielenia prawa nowych technologii i informatyki prawniczej[19]. Wobec powyższego należy jeszcze podkreślić, że informatyka prawnicza obejmuje kwestie badania możliwości stosowania elektronicznych maszyn cyfrowych, ich wykorzystanie oraz pozaprawne skutki ich stosowania na gruncie prawa[20].

Wyzwania prawne muszą zawsze mieć na uwadze korzyści i zagrożenia, jakie ze sobą niesie sztuczna inteligencja. Jeśli chodzi o korzyści, to dotyczą one: obywateli – na przykład lepsza opieka zdrowotna, rzadziej psujący się sprzęt gospodarstwa domowego, bezpieczniejsze i czystsze środki transportu, lepsze usługi publiczne; rozwoju przedsiębiorstw – na przykład nowa generacja towarów i usług w pewnych obszarach (sektor maszyn, transportu, cyberbezpieczeństwa, rolnictwa albo też zielona gospodarka o obiegu zamkniętym, sektor opieki zdrowotnej i sektory o wysokiej wartości dodanej, takie jak moda i turystyka); usług interesu publicznego – na przykład zmniejszenie kosztów świadczenia usług (transport, edukacja, energia i gospodarowanie odpadami), poprawa zrównoważonego charakteru produktów w ramach zielonego ładu oraz wyposażenie organów egzekwowania prawa w stosowne narzędzia zapewniające bezpieczeństwo obywateli przy zachowaniu odpowiednich zabezpieczeń w odniesieniu do ich praw i swobód[21]. Tymczasem potencjalne zagrożenia są odnoszone do: nieprzejrzystego podejmowania decyzji, dyskryminacji ze względu na płeć lub inne czynniki, ingerencji w nasze życie prywatne czy wykorzystania w celach przestępczych[22]. W związku z tym podkreśla się dodatkowo, że trzeba dostosować ochronę praw i wolności do potencjału nadużycia przy zastosowaniu sztucznej inteligencji[23]. Zarazem wypada teraz wyeksponować, że sztuczna inteligencja może nie tyle naruszać prawa jednostki, co uderzać przede wszystkim w prawa zbiorowe[24]. Tym samym niezbędne okazuje się osobne określenie praw zbiorowych przy wykorzystywaniu sztucznej inteligencji.

W konsekwencji pojawiają się pytania dotyczące sztucznej inteligencji, które muszą oczywiście znaleźć odpowiedź na gruncie prawa. Najpierw nieodzowne staje się dokonanie ich wstępnej egzemplifikacji, która musi naturalnie mieć walor ogólny, ponieważ dominuje tutaj spojrzenie pozaprawne. Te pytania są zawsze formułowane w kontekście dwóch relacji: człowiek – sztuczna inteligencja albo sztuczna inteligencja – człowiek. W obu przypadkach są potrzebne jeszcze dookreślenia, które muszą wówczas odnosić się nie tylko do człowieka, ale przede wszystkim do sztucznej inteligencji. Jeżeli chodzi o człowieka, to należy go tradycyjnie dookreślić, co najczęściej wymaga ustalenia jego statusu. Nie wolno przy tym zapomnieć, że człowiek podlega równie często identyfikacji zbiorowej – jako członek przykładowo: rodziny, zgromadzenia, zrzeszenia, państwa. Natomiast w przypadku sztucznej inteligencji mamy większe trudności z jej dookreśleniem, ponieważ należy wcześniej ustalić na przykład: co jest sztuczną inteligencją, jaką postać nabywa, jakie są jej rodzaje czy też jak egzystuje. W praktyce sztuczną inteligencję identyfikuje się przecież różnie, by wspomnieć chociażby o: algorytmie, komputerze, robocie, cyborgu. Po uwzględnieniu zaprezentowanych konotacji można dopiero próbować odpowiedzieć na najbardziej nurtujące pytania. Z prawnego punktu widzenia dotyczą one sztucznej inteligencji w aspekcie głównie odpowiedzialności. W pewnym uproszeniu dotyczy to odpowiedzialności człowieka za działania skierowane przeciw komputerom, odpowiedzialności człowieka przy wykorzystaniu komputerów czy też odpowiedzialności komputerów za działania w stosunku do człowieka i innych komputerów[25].

Wykorzystanie sztucznej inteligencji wywołuje coraz częściej problemy natury prawnej, co implikuje najpierw ukształtowanie polityki regulacyjnej w strategiach jej rozwoju, które okazują się nieodzownym elementem na etapie przygotowawczym procesu stanowienia prawa, ponieważ wskazują założenia przyszłej regulacji prawnej w aspekcie jej pojęcia, instytucji i konstrukcji[26]. Należy wyraźnie stwierdzić, że sztuczna inteligencja nie doczekała się jeszcze rzeczywistego bytu w regulacji prawnej. Dla określenia sztucznej inteligencji w regulacji prawnej, gdy bierzemy pod uwagę równocześnie jej pojęcie, instytucję i konstrukcję, nie może więc punktem wyjścia być zjawisko prawne. O ile bowiem pojęcie, instytucja i konstrukcja sztucznej inteligencji może jedynie wynikać z myślenia prawniczego, o tyle zjawisko sztucznej inteligencji powinno już oddawać rzeczywistość prawną. Wśród teoretycznych założeń myślenia prawniczego należy przede wszystkim uwypuklić: szukanie racjonalnych rozwiązań, przyjmowanie celowości regulacji, uwzględnianie konsekwencji logicznych, eliminowanie występujących sprzeczności[27]. Z perspektywy regulacji prawnej musi myślenie prawnicze o sztucznej inteligencji wpisywać się w działania na rzecz wzrostu innowacyjności i konkurencyjności. Jeżeli nie ma ku temu odpowiednich warunków, to wyjściem z sytuacji może być tworzenie tak zwanych piaskownic regulacyjnych czy też geograficznych obszarów testowych[28].

Formułowanie strategii rozwoju sztucznej inteligencji jest charakterystyczne głównie dla Unii Europejskiej, która przyjmuje cały szereg dokumentów o zróżnicowanym statusie formalnym, natomiast państwa członkowskie Unii Europejskiej dopiero próbują tworzyć jej narodowe odpowiedniki. Jeżeli chodzi o strategię rozwoju sztucznej inteligencji dla całej Unii, to można tutaj dopatrzeć się ewolucyjnego procesu, który nie został do dzisiaj zakończony. W tym procesie kluczowa rola przypadła kilku organom Unii Europejskiej, a mianowicie: Parlamentowi Europejskiemu, Komisji Europejskiej, Europejskiemu Komitetowi Ekonomiczno-Społecznemu, Komitetowi Regionów. Skoro przyjmowane przez te organy dokumenty nie mają charakteru prawnie wiążącego, gdyż przybrały formę rezolucji, opinii, komunikatu i białej księgi, to należy je zakwalifikować do aktów niewiążących – tak zwanego soft law – prawa unijnego[29]. Z całą pewnością wolno teraz powiedzieć, że Unia Europejska dopracowała się własnej strategii rozwoju sztucznej inteligencji w latach 2017–2020, która osiągnęła na tyle wysoki poziom dojrzałości, że można nawet mówić o europejskim podejściu do sprawy sztucznej inteligencji. To podejście opiera się na dwóch głównych elementach, gdyż wskazuje: ramy polityczne określające środki służące połączeniu wysiłków na szczeblu europejskim, krajowym i regionalnym w celu osiągnięcia „ekosystemu doskonałości” i ramy regulacyjne w rozumieniu prawnym w celu osiągnięcia „ekosystemu zaufania”[30]. Przy tym należy również zauważyć, że własne strategie rozwoju sztucznej inteligencji zaprezentowały w 2018 roku poszczególne państwa europejskie, takie jak: Wielka Brytania, Francja, Niemcy[31].

Warto w tym miejscu przybliżyć zwłaszcza ramy regulacyjne, które wprowadza Unia Europejska w celu osiągnięcia „ekosystemu zaufania”. Solidne europejskie ramy regulacyjne w zakresie godnej zaufania sztucznej inteligencji mają chronić wszystkich jej obywateli, pomóc stworzyć bezproblemowy rynek wewnętrzny dla dalszego rozwoju i upowszechniana sztucznej inteligencji oraz wzmocnić bazę przemysłową w tej dziedzinie[32]. Wyraźnie dostrzega się bowiem zagrożenia, jakie stwarza sztuczna inteligencja, dzieląc je bardzo ogólnie na: zagrożenia dla praw podstawowych, w tym w odniesieniu do ochrony danych osobowych i prywatności oraz niedyskryminacji, a także zagrożenia dla bezpieczeństwa i skutecznego funkcjonowania systemu odpowiedzialności[33]. Z perspektywy zatem sztucznej inteligencji powinna regulacja uwzględniać ewentualne dostosowanie do istniejących ram prawnych Unii Europejskiej jak też zakres jej przyszłych ram prawnych[34]. Jeżeli chodzi o dostosowanie do istniejących ram prawnych Unii Europejskiej, to należy co najmniej mieć na względzie prawo unijne w zakresie: bezpieczeństwa i odpowiedzialności za produkty oraz ochrony praw podstawowych i praw konsumentów. Natomiast mając na myśli przyszłe ramy prawne Unii Europejskiej, trzeba jeszcze uzupełnić prawo unijne, zwłaszcza w zakresie: obowiązkowych wymogów prawnych nakładanych na odpowiednie podmioty, rozdzielenia obligatoryjnie obowiązków między zainteresowane podmioty gospodarcze, przestrzegania w praktyce i skutecznego egzekwowania obowiązujących wymogów prawnych, dobrowolnego etykietowania zastosowań niecharakteryzujących się wysokim ryzykiem, struktur współpracy organów zarządzających.

Z formułowaniem strategii rozwoju sztucznej inteligencji mamy również do czynienia na płaszczyźnie międzynarodowej. Właściwie chodzi o wymiar współpracy międzynarodowej w zakresie rozwoju sztucznej inteligencji[35]. Niewątpliwie można tutaj przywołać stanowisko krajów Grupy Wyszehradzkiej na temat sztucznej inteligencji i maksymalizacji korzyści z niej płynących przed oficjalną publikacją komunikatu Komisji Europejskiej z 2018 r., który dotyczył tej kwestii[36]. Zarazem warto odnotować oświadczenie z 2018 r. w sprawie sztucznej inteligencji złożone przez ministrów państw G7 właściwych do spraw innowacji, którzy przedstawili swoje postulaty w następujących obszarach: wspierania wzrostu gospodarczego dzięki innowacjom sztucznej inteligencji, rosnącego zaufania do sztucznej inteligencji i jej adaptacji, promowania włączenia w opracowywanie i wdrażanie sztucznej inteligencji[37]. Tymczasem Organizacja Narodów Zjednoczonych podejmuje temat sztucznej inteligencji między innymi w ramach agencji UNICRI (United Nations Interregional Crime and Justice Research Institute), UNDP (United Nations Development Programme), ITU (International Telecommunication Union), a także poprzez UNODA (United Nations Office for Disarmament Affairs)[38]. Przykładowo UNICRI (United Nations Interregional Crime and Justice Research Institute) dzięki wsparciu rządu holenderskiego i miasta Hagi utworzyło Centrum Sztucznej Inteligencji i Robotyki w 2017 r., które przyczynia się między innymi do lepszego zrozumienia ryzyka oraz korzyści płynących z wykorzystania sztucznej inteligencji i robotyki[39]. Ponadto należy też wymienić rekomendacje OECD dla polityki i zarządzania godną zaufania sztuczną inteligencją[40].

Niedawno strategia rozwoju sztucznej inteligencji doczekała się również opracowania w Polsce. Co prawda chodzi jedynie o projekt polityki rozwoju sztucznej inteligencji na lata 2019–2027, przygotowany w formie obszernego dokumentu do konsultacji społecznych przez międzyresortowy zespół analityczno-redakcyjny powołany przez Ministra Cyfryzacji, Ministra Przedsiębiorczości i Technologii, Ministra Nauki i Szkolnictwa Wyższego oraz Ministra Inwestycji i Rozwoju, który wyznacza ramy „ekosystemu” sztucznej inteligencji i strategiczne czynniki budowania potencjału sztucznej inteligencji[41]. Niewątpliwie polityka rozwoju sztucznej inteligencji na lata 2019–2027 została zaprojektowana w uzgodnieniu i w spójności z kierunkowymi działaniami państwa, Unii Europejskiej, a także z dokumentami strategicznymi organizacji międzynarodowych, których Polska jest członkiem. Ponieważ nie została ona oficjalnie zaakceptowana przez właściwe organy administracji publicznej, to nie mogła oczywiście stać się źródłem prawa powszechnie obowiązującego. Z powodu upływu czasu nie może już zresztą przybrać w obecnym kształcie formy prawnej aktu normatywnego, czyli najprawdopodobniej uchwały Rady Ministrów. Przy tym należy uczciwie przyznać, że polityka rozwoju sztucznej inteligencji na lata 2019–2027 miała docelowo stanowić część projektowanej strategii produktywności, co nie wydaje się jednak racjonalne. W każdym razie polityka rozwoju sztucznej inteligencji musi zawsze stanowić element zintegrowanej strategii rozwoju kraju.

Ramy „ekosystemu” sztucznej inteligencji wyznaczają wówczas relacje do wymiaru międzynarodowego, wymiaru etycznego, wymiaru prawnego i określonych standardów[42]. Z jednej strony wypełniają już dzisiaj rolę stabilizatora „ekosystemu”, chociaż z drugiej strony wymagają jeszcze dopracowania pod tym względem, skoro mimo wszystko nie nadążają za rozwojem sztucznej inteligencji. Z pewnością nie można tutaj mówić o ich równoważności, gdyż charakter fundamentalny ma tylko wymiar etyczny i wymiar prawny. Ostatecznie rola pierwszoplanowa musi przypaść wymiarowi prawnemu, skoro tylko on może wszystkim narzucić ogólny sposób działania. Wymiar etyczny sztucznej inteligencji znalazł odniesienie przede wszystkim do godności ludzkiej i zaufania człowieka. W tym miejscu wypada również podkreślić, że chodzi zarówno o zaufanie człowieka do sztucznej inteligencji, jak i sztuczną inteligencję godną zaufania ludzkiego. Natomiast wymiar prawny koncentruje się wówczas tylko na najważniejszych zagadnieniach sztucznej inteligencji, takich jak: definicja legalna, osobowość prawna, własność intelektualna, odpowiedzialność za szkody, zamówienia publiczne, udział państwa jako zleceniodawcy projektów wykorzystujących rozwiązania oparte na danych cyfrowych. Charakterystyka obu, fundamentalnych dla sztucznej inteligencji, wymiarów jest tutaj, niestety, pobieżna, co świadczy o znikomym opracowaniu dotyczących ich zagadnień, bez czego nie można sobie nawet wyobrazić jakiegokolwiek rozwoju sztucznej inteligencji w najbliższym czasie.

Z kolei strategiczne czynniki budowania potencjału sztucznej inteligencji dotyczą otoczenia zewnętrznego sztucznej inteligencji, które ma pośredni wpływ na jej rozwój. Trudno sobie wyobrazić, żeby sztuczna inteligencja rozwijała się w zupełnej izolacji. Czynniki zewnętrzne mogą przecież stymulować jej rozwój, wpływać na niego hamująco lub nawet go zatrzymać. Naturalnie powinny one zostać uregulowane prawem, by mogły skutecznie oddziaływać na rozwój sztucznej inteligencji. Do czynników budowania potencjału sztucznej inteligencji należy tutaj zaliczyć: organizację i zarządzanie, wiedzę i kompetencje, inwestycje i finansowanie oraz infrastrukturę. Wśród tych czynników należy szczególną uwagę zwrócić na organizację i zarządzanie, ponieważ zostały one już w znacznym stopniu ukształtowane, co niekiedy znajduje również odzwierciedlenie w regulacji prawnej. Przykładowo zadanie koordynacji zarządzaniem wdrożenia i egzekwowania strategii rozwoju sztucznej inteligencji powierzono Komitetowi Rady Ministrów ds. Cyfryzacji[43]. Można to także zilustrować celem Fundacji Platforma Przemysłu Przyszłości, którym jest działanie na rzecz wzrostu konkurencyjności przedsiębiorców poprzez wspieranie ich transformacji cyfrowej, mając na względzie procesy, produkty oraz modele biznesowe, przy uwzględnieniu odpowiedniego poziomu bezpieczeństwa, gdy wykorzystują najnowsze osiągnięcia z zakresu między innymi sztucznej inteligencji[44].

Oczywiście strategie rozwoju sztucznej inteligencji dokonują jedynie egzemplifikacji jej zagadnień prawnych. Tak naprawdę nie podejmują nawet próby ich opracowania, gdyż skupiają się przeważnie na zagadnieniach technicznych. Opracowanie zagadnień prawnych w tym zakresie musi teraz rozpocząć się od wyboru odpowiedniej płaszczyzny, która pozwoli na dokonanie prawidłowych ustaleń. Jakkolwiek sztuczna inteligencja jest dzisiaj elementem realnego świata, to jednak nie stanowi jeszcze elementu rzeczywistości prawnej. Co najwyżej można obrazowo powiedzieć, że rzeczywistość prawna oswaja się ze sztuczną inteligencją, lecz nie zdążyła jej dotąd skutecznie zaimplementować. Rzeczywistość prawna nie nadąża bowiem za sztuczną inteligencją, ponieważ próbuje się aktualnie stosować wprost regulację prawną do sztucznej inteligencji, jednakże nie może to oczywiście przynieść efektu pozytywnego. Obecna regulacja prawna powinna zatem w pełni dostosować się do sztucznej inteligencji albo nieodzowne staje się ustanowienie dla niej zupełnie nowej regulacji prawnej. W konsekwencji można praktycznie uwzględnić tylko płaszczyznę myślenia prawniczego przy wykorzystaniu jedynie pomocniczo płaszczyzny rzeczywistości prawnej. To prowadzi do wniosku, że opracowanie zagadnień prawnych sztucznej inteligencji musi od początku zmierzać do odpowiedzi na pytanie: czym ona jest?. Natomiast udzielenie odpowiedzi na pytanie: jak ona działa? będzie następnym krokiem w opracowaniu regulacji dotyczących sztucznej inteligencji. W takim razie chodzi o zaprezentowanie sztucznej inteligencji raczej w formule law in books, ewentualnie później zaś uwzględnienie wobec niej równocześnie formuły law in action.

W płaszczyźnie myślenia prawniczego o sztucznej inteligencji musi więc pojawić się odpowiedź na fundamentalne pytanie: czym ona jest?. To wymaga przyjęcia na samym już początku kilku założeń, które będą dalej towarzyszyć myśleniu prawniczemu, gdy dokonuje się określenia istoty sztucznej inteligencji. Punktem wyjścia jest wtedy uznanie, że sztuczna inteligencja podlega zasadom etyki, czyli musi w jakimś stopniu następować jurydyzacja tych zasad. Bo przecież sztuczna inteligencja jest zorientowana na człowieka i jego środowisko, dlatego wartości ludzkie są kluczowe dla sposobu, w jaki systemy sztucznej inteligencji są opracowywane, wdrażane, wykorzystywane i monitorowane[45]. Z drugiej strony nie wypada w punkcie wyjścia pominąć wpływu nowoczesnych technologii na sztuczną inteligencję, a dotyczy to zwłaszcza technologii cyfrowej. Od niedawna można nawet zaobserwować proces jurydyzacji nowoczesnych technologii, który obejmuje najczęściej czynniki stymulujące ich rozwój, ale podejmuje się również bardziej ambitne próby zracjonalizowania tego zjawiska. Regulacja prawna nowoczesnych technologii musi oczywiście uwzględniać tutaj odesłania pozasystemowe, ponieważ nie da się jeszcze wszystkiego uregulować prawnie na obecnym etapie rozwoju wiedzy technologicznej. Łącznie wolno chyba wyrazić postulat pod adresem sztucznej inteligencji, by zawsze uwzględniała „ład moralny” i „ład technologiczny”, skoro determinuje to rozważania nad określeniem jej bytu prawnego[46].

Z kolei płaszczyzna myślenia prawniczego o sztucznej inteligencji wymusza bardzo wstępne odniesienie do równie fundamentalnego pytania: jak ona działa?. Oczywiście pełna odpowiedź jest tutaj możliwa dopiero po całkowitym ukształtowaniu regulacji prawnej. Bez tego można co najwyżej pokusić się o założenia, które pozwalają zapoczątkować proces jej stanowienia. W każdym razie ujawnia się dzisiaj możliwość wyodrębnienia zarówno prawa dla sztucznej inteligencji, jak i prawa przysługującego samej tylko sztucznej inteligencji, o ile będzie oczywiście jej przyznana podmiotowość prawna. Ponadto jest równocześnie możliwy wariant pośredni przy uznaniu zróżnicowania sztucznej inteligencji. Niewątpliwie stanowi to pokłosie sporu o istotę sztucznej inteligencji, a dokładnie mówiąc – wyodrębnienia różnych jej możliwości, które mogą, lecz wcale przecież nie muszą, być porównywalne z możliwościami człowieka. Z całą pewnością rozstrzygnie o tym podejście prawne do sztucznej inteligencji, które może ją zakwalifikować jako podmiot regulacji prawnej lub przedmiot regulacji prawnej. Wobec tego sytuacja prawna sztucznej inteligencji wydaje się potencjalnie niejednolita, co chyba najłatwiej dostrzec, analizując wszystkie możliwe stosunki prawne z jej udziałem. W konsekwencji jest to okazja do spojrzenia na obrót prawny z udziałem sztucznej inteligencji, który nie wydaje się czystą abstrakcją. Przecież można aktualnie wyróżnić maszyny o cechach inteligentnych, które pełnią bierną rolę w konstrukcji stosunku cywilnoprawnego, służą bowiem jedynie do wyrażania woli innych podmiotów prawa, jak chociażby automaty do sprzedaży napojów, gier hazardowych czy mycia samochodów.

Tymczasem rzeczywistość prawna sztucznej inteligencji musi w przyszłości sprostać kilku założeniom techniki prawodawczej. W związku z tym konieczne wydaje się uznanie, że regulacja prawna przynależy tutaj do materii ustawowej, ponieważ w grę wchodzą zawsze prawa człowieka. Oczywiście byłoby najlepiej, gdyby została przyjęta ustawa wiodąca dla sztucznej inteligencji przy dopuszczeniu jeszcze ustaw szczególnych. Jeżeli chodzi o ustawę wiodącą dla sztucznej inteligencji, to powinna ona dotyczyć jej zagadnień ogólnych, a więc ustalić przykładowo charakter bytu prawnego. Bez badań podstawowych nie można jednak sprecyzować treści ustawy wiodącej dla sztucznej inteligencji, zatem perspektywa jej przyjęcia wydaje się, niestety, odległa . Tym niemniej można obecnie zaprezentować siedem wymogów, które powinna przyszła ustawa wiodąca dla sztucznej inteligencji uwzględniać, bo wydają się nieodzowne: przewodnia i nadzorcza rola człowieka; techniczna solidność i bezpieczeństwo; ochrona prywatności i zarządzanie danymi; przejrzystość; różnorodność, niedyskryminacja i sprawiedliwość; dobrostan społeczny i środowiskowy oraz odpowiedzialność[47]. Ta przyszła ustawa wiodąca dla sztucznej inteligencji bywa popularnie nazywana „prawem robotów”. Co tyczy się ustaw szczególnych dla sztucznej inteligencji, to powinny one obejmować zagadnienia szczegółowe, ponieważ trzeba również uwzględniać specyficzne aspekty, takie jak: własność przemysłowa, informatyzacja działalności, usługi elektroniczne, zróżnicowana odpowiedzialność. Niewątpliwie odzwierciedla to zarazem proces fragmentaryzacji prawa w zakresie sztucznej inteligencji, który staje się coraz bardziej nieunikniony.

Ukazane wyżej wymogi dotyczące sztucznej inteligencji opierają się na składnikach i wartościach europejskich. Wiarygodna sztuczna inteligencja bazuje na składnikach, które są traktowane jako elementy obowiązkowe, powinna być bowiem: zgodna z przepisami prawa, rozwijana z poszanowaniem zasad etycznych, solidna[48]. Ponadto wiarygodna sztuczna inteligencja realizuje wartości, jeżeli są wspólne dla wszystkich, skoro zapewnia chociażby: poszanowanie godności osoby ludzkiej, wolność, demokrację, równość, praworządność, poszanowanie praw człowieka, w tym osób należących do mniejszości[49]. W tym kontekście można już wyjaśnić znaczenie poszczególnych wymogów, które są jej stawiane[50]. Zatem przewodnia i nadzorcza rola człowieka gwarantuje, że sztuczna inteligencja nie podważa niezależności człowieka i nie powoduje innych skutków negatywnych. Aby sztuczna inteligencja była technicznie solidna i bezpieczna, to algorytmy muszą zawsze być bezpieczne, niezawodne i wystarczająco solidne. Ochronę prywatności i danych zabezpieczają wszystkie etapy życia sztucznej inteligencji oraz integralność i dostęp do danych. Z perspektywy przejrzystości sztucznej inteligencji jest ważna identyfikowalność, wytłumaczalność i informowanie. Tworzenie zespołów projektowych sztucznej inteligencji obywa się z zagwarantowaniem różnorodności, niedyskryminacji i sprawiedliwości. Z kolei dobrostan społeczny i środowiskowy sztucznej inteligencji ustala jej wpływ na środowisko i inne istoty zdolne do odczuwania. Dla zapewnienia odpowiedzialności sztucznej inteligencji wprowadza się wreszcie odpowiednie mechanizmy.

Opracowanie zagadnień prawnych dotyczących sztucznej inteligencji wymaga zatem rozpoczęcia badań podstawowych, których wspólnym mianownikiem staje się naturalnie jej byt prawny. Przez badania podstawowe należy wówczas rozumieć badania, które mają przede wszystkim charakter teoretyczny, czyli nie są ukierunkowane na praktyczne zastosowanie. Jednakże nie oznacza to, że wyniki badań podstawowych wykluczają zastosowanie praktyczne. Przeciwnie, należy tradycyjnie żywić nadzieję, że badania podstawowe okażą się użyteczne dla praktyki. Z badaniami podstawowymi jest bowiem tak, że mogą nie przynieść żadnych efektów lub mogą przynieść wymierne efekty, ale w czasie trudnym do przewidzenia. Badania podstawowe nad sztuczną inteligencją muszą zasadniczo mieć kwalifikację prawniczą, ponieważ nie ma dotąd możliwości nadania im kwalifikacji prawnej w aktualnym stanie prawnym. Z całą pewnością chodzi o postęp wiedzy prawniczej w zakresie sztucznej inteligencji, który pozwoli między innymi na ustalenie nowych założeń naukowych i twierdzeń naukowych, czego namacalnym wyrazem powinny być zwłaszcza aksjomaty naukowe i definicje naukowe. Jakkolwiek musi temu towarzyszyć odniesienie do całego systemu prawa, co przekłada się oczywiście na trzy jego podstawowe gałęzie, lecz nie może ono, niestety, sięgać zbyt głęboko w analogię do już zebranej teorii. Z punktu widzenia gałęzi systemu prawa wypada szczególną rolę przypisać prawu cywilnemu, które okazuje się wyraźnie predystynowane do opracowania prawniczego sztucznej inteligencji. Natomiast rola pomocnicza powinna wtedy przypaść prawu karnemu i prawu administracyjnemu. W końcu bytem prawnym interesuje się dotychczas głównie prawo cywilne, gdyż stanowi dla niego kluczowy element teorii.

Na potrzeby badań podstawowych należy tutaj przedstawić egzemplifikację zagadnień prawnych sztucznej inteligencji. Jednak nie chodzi o ich pełny katalog, ale raczej dokonanie przeglądu, który pozwoli na wprowadzenie typowej ich gradacji. Z całą pewnością można bowiem wyodrębnić ważne zagadnienia prawne sztucznej inteligencji oraz mniej dla niej ważne. Ważne zagadnienia prawne sztucznej inteligencji muszą oczywiście dotykać jej istoty, czyli nie można bez nich przeprowadzić żadnego badania podstawowego. Natomiast mniej ważne zagadnienia prawne sztucznej inteligencji służą badaniom podstawowym przy braku odniesienia do samej jej istoty. Dlatego te mniej ważne zagadnienia trzeba uznać za akcesoryjne, co jednak nie oznacza w niczym ich jakiejkolwiek deprecjacji. Do ważnych zagadnień prawnych sztucznej inteligencji należy tutaj zaliczyć: podmiotowość prawną, prawa podstawowe, własność intelektualną, odpowiedzialność prawną, procedury prawne, zawody prawnicze. Uznanie akurat tych zagadnień za ważne w sztucznej inteligencji opiera się na przeświadczeniu, że mają one znaczenie fundamentalne. Co znalazło już dzisiaj potwierdzenie w znacznym zainteresowaniu nimi, chociaż nie widać jeszcze namacalnych tego efektów. Raczej wypada tutaj mówić o wstępnej próbie rozpoczęcia badań podstawowych, która skupia się głównie na inwentaryzacji problemów, jakie one dzisiaj generują w procesie stosowania prawa. W związku z tym podkreśla się dodatkowo, że chodzi o „szkice prawnicze i futurologiczne”[51].

Tymczasem mniej ważne zagadnienia prawne sztucznej inteligencji uzyskują aktualnie bardziej konkretny wymiar: samochody autonomiczne, roboty medyczne, roboty do opieki, rozpoznawanie obrazu, rozpoznawanie i synteza mowy, tłumaczenie maszynowe, wirtualni asystenci, selekcjonowanie konsumentów, wsparcie zatrudnienia. Dla zachowania porządku wypada je przybliżyć, bez nawet zamiaru wyczerpania tematu, jedynie wskazując na bieżące konotacje. Odnośnie do samochodu autonomicznego podkreśla się teraz, że kierowca będzie ponosił odpowiedzialność za każdy incydent, chyba że zawiodą systemy bezpieczeństwa i nie uda się zachować kontroli nad samochodem poruszającym się w autonomicznym trybie, gdyż odpowiedzialność przenosi się wówczas na producenta[52]. Jeżeli chodzi o roboty medyczne, roboty do opieki oraz podobnego typu roboty, to postuluje się chociażby stworzenie systemu ubezpieczeń obowiązkowych, w którym – podobnie jak dzisiaj w przypadku samochodów – producenci lub właściciele tych robotów byliby zobowiązani wykupić ubezpieczenie od szkód wyrządzonych potencjalnie przez ich roboty[53]. Z punktu widzenia rozpoznawania obrazu można tutaj dodać, że rozważa się wprowadzenie czasowego zakazu stosowania technologii rozpoznawania twarzy w przestrzeni publicznej, żeby wytyczyć granice koniecznej ochrony tożsamości [54]. Podczas pierwszej podróży amerykańskiego prezydenta D. Trumpa do Chin w trakcie konferencji technicznej z użyciem telebimu jego powitalne przemówienie rozpoczęło się po angielsku i było kontynuowane po chińsku, co wskazuje na możliwości rozpoznawania i syntezy mowy oraz tłumaczenia maszynowego, lecz bez zapewnienia systemu gwarancji[55]. Niepokój budzi wpływ: wirtualnych asystentów pomagających w zakupach, reklamodawców selekcjonujących konsumentów, programów motywujących zachowania pracowników[56].

Ocena ważnych zagadnień prawnych sztucznej inteligencji musi jeszcze uwzględnić ich hierarchię. Z całą pewnością wymagają one bowiem uszeregowania, które pozwoli ustalić zachodzące między nimi relacje. Co prawda są one ze sobą powiązane, lecz odbywa się to na różnych poziomach, które wymagają dopiero rozważenia. Oczywiście musi wówczas znaleźć zastosowanie kryterium stopnia konkretności odniesienia do sztucznej inteligencji. W takim razie wypada standardowo wyodrębnić poziom ogólny i poziom szczegółowy. Do poziomu ogólnego trzeba wyłącznie zaliczyć: podmiotowość prawną i prawa podstawowe, podczas gdy poziom szczegółowy powinien teraz obejmować: własność intelektualną, odpowiedzialność prawną, procedury prawne oraz zawody prawnicze. Niewątpliwie dotykają ogólnie sztucznej inteligencji zagadnienia podmiotowości prawnej i praw podstawowych, ponieważ określają prawnie jej podstawowe pojęcia, instytucje i konstrukcje. Z kolei wolno następnie wskazać cztery szczegółowe zagadnienia sztucznej inteligencji, a mianowicie: własność intelektualną, odpowiedzialność prawną, procedury prawne i zawody prawnicze, ponieważ koncentrują się na nich podejmowane analizy prawne. Stąd muszą one wygenerować prawnie dla sztucznej inteligencji uzupełniające pojęcia, instytucje i konstrukcje. Zatem opracowanie zagadnienia prawnego sztucznej inteligencji musi najpierw osiągnąć poziom ogólny, by dopiero później przejść do poziomu szczegółowego. W ramach poziomu ogólnego jest natomiast konieczne wyeksponowanie podmiotowości prawnej sztucznej inteligencji, prawa podstawowe są bowiem wyraźnie nią zdeterminowane.

Istota podmiotowości prawnej sztucznej inteligencji wymaga określenia, ponieważ ma być następnie paradygmatem naukowym. Przez paradygmat naukowy należy tutaj rozumieć fundamentalne założenia naukowe, które definiują istotę podmiotowości prawnej sztucznej inteligencji, by mogły w badaniach naukowych zostać uznane za oczywiste i nienegowane. Te fundamentalne założenia naukowe muszą naturalnie uwzględniać wskazane już założenia myślenia prawniczego i rzeczywistości prawnej. W rezultacie chodzi o zbiór założeń, który określa istotę podmiotowości prawnej sztucznej inteligencji przy użyciu pojęcia, instytucji i konstrukcji. Pojęcie podmiotowości prawnej sztucznej inteligencji odzwierciedla w myśleniu prawniczym całościowe ujęcie leżącego u jego podstaw zjawiska prawnego, co potwierdzić ma wyodrębniona ostatecznie regulacja prawna, ponieważ okazuje się niezbędna z uwagi na potrzeby obrotu prawnego. Oczywiście pojęcie podmiotowości prawnej sztucznej inteligencji jest zarazem myślowym odpowiednikiem skorelowanego z nim terminu, który funkcjonuje od jakiegoś czasu w języku prawniczym. Natomiast instytucja podmiotowości prawnej sztucznej inteligencji musi wówczas być rozumiana osobowo – jako inkarnacja idei „upodmiotowienia” sztucznej inteligencji w myśleniu prawniczym o tym zjawisku prawnym[57]. Chociaż instytucję podmiotowości prawnej sztucznej inteligencji można w różny sposób prezentować, to należy jednak uwzględniać: odniesienie do norm prawnych, złożoność, zintegrowanie przez wspólny cel lub wartość, trwanie w czasie, możliwość zmiany bez utraty identyczności[58]. Tymczasem konstrukcję podmiotowości prawnej sztucznej inteligencji charakteryzuje katalog znamion kwalifikacyjnych jej zjawiska prawnego w myśleniu prawniczym. W rezultacie sprowadza się do wyznaczenia głównie: statusu, zdolności, zakresu uprawnień i obowiązków.

Dla podmiotowości prawnej sztucznej inteligencji niezmiernie ważne jest narzucenie paradygmatu naukowego, ponieważ rozstrzyga się tym samym o istnieniu jej bytu prawnego. Jednak wypada uczciwie przyznać, że podmiotowość prawna sztucznej inteligencji wzbudza ciągłe kontrowersje, które występują również w nauce prawa. Niewątpliwie taki stan rzeczy wynika ze słabości badań naukowych nad podmiotowością prawną sztucznej inteligencji. Są one prowadzone od niedawna, przy czym nie zyskały jeszcze podejścia kompleksowego. Tak naprawdę mamy bowiem do czynienia z ledwie próbami odniesienia do podmiotowości prawnej sztucznej inteligencji. W związku z tym wypada jeszcze dodać, że spotykamy tutaj trzy stanowiska odnośnie do podmiotowości prawnej sztucznej inteligencji, czyli: negatywne, pozytywne i hipotetyczne. Przede wszystkim należy o nich mówić w ujęciu porównawczym, ponieważ jest bardzo trudno aktualnie zaprezentować ujęcie polskie. Stanowisko negatywne kwestionuje podmiotowość prawną sztucznej inteligencji jako konsekwencję wyodrębnienia nowych praw podstawowych, jak przykładowo „podstawowego prawa do zagwarantowania poufności i integralności systemów informatycznych” (Computergrundrecht)[59]. Natomiast stanowisko pozytywne dopuszcza przyznanie podmiotowości prawnej sztucznej inteligencji pod pewnymi warunkami, jednak nie tyle mając na względzie pobudki natury konceptualnej, co raczej biorąc pod uwagę pobudki natury pragmatycznej związane z oceną przydatności w obrocie prawnym[60]. Wreszcie ujawnia się stanowisko hipotetyczne, które unika odpowiedzi na pytanie o podmiotowość prawną sztucznej inteligencji, ponieważ wczesny etap jej rozwoju pozwala na postawienie wówczas tylko znaku zapytania („podmiotowość prawna sztucznej inteligencji?”, „podmiotowość SI?”)[61].

Z perspektywy paradygmatu naukowego powinna podmiotowość prawna sztucznej inteligencji kojarzyć się zasadniczo ze stanowiskiem pozytywnym. Przede wszystkim należy tutaj uwzględnić dynamiczny rozwój sztucznej inteligencji, który musi przecież doprowadzić do określenia jej bytu prawnego. Obecnie nie można bowiem wpisać sztucznej inteligencji w ramy obowiązującej regulacji prawnej, która nie jest przystosowana do uwzględnienia całej jej istoty. Tymczasem przyszła regulacja prawna będzie miała pełne szanse na dostosowanie do istoty sztucznej inteligencji. W rezultacie musi wówczas zostać uregulowane zagadnienie podmiotowości prawnej sztucznej inteligencji. Przedstawione rozumowanie ma niewątpliwie charakter dedukcyjny, czyli jest prowadzone w formule „od ogółu do szczegółu”. Co prawda podkreśla się czasami, że dopiero przyszła regulacja prawna sztucznej inteligencji umożliwi odniesienie do zagadnienia jej podmiotowości prawnej, lecz nie wydaje się to przekonujące. Na rozumowanie indukcyjne jest obecnie za późno, ponieważ dużo czasu potrzeba na realizację formuły „od szczegółu do ogółu”. Wobec tego musi dzisiaj dominować myślenie prawnicze o podmiotowości prawnej sztucznej inteligencji, które będzie dalej miało charakter dedukcyjny. Tym samym ujawnią się równocześnie pobudki natury konceptualnej i natury pragmatycznej, gdy dopuszcza się podmiotowość prawną sztucznej inteligencji. W ten sposób wolno jeszcze uznać, że stanowisko pozytywne odnośnie do podmiotowości prawnej sztucznej inteligencji stanowi zarazem aksjomat naukowy. W końcu aksjomatem naukowym jest stałe założenie, które przyjmuje się bez dowodu w rozumowaniu dedukcyjnym, jeżeli nie budzi kategorycznych zastrzeżeń.

Pojęcie podmiotowości prawnej sztucznej inteligencji stanowi zwykle końcowy etap myślenia prawniczego o jej zjawisku prawnym[62]. W rezultacie wypada najpierw przyjrzeć się założeniom tego myślenia prawniczego, które ujawniają pewną instrumentalizację pojęcia podmiotowości prawnej sztucznej inteligencji. Z całą pewnością zachodzi więc konieczność zaliczenia tego pojęcia do kategorii naukowej. Należy je uznać za pojęcie podstawowe, jednak nie przynależne do konkretnej subdyscypliny naukowej na bazie gałęzi prawa, tylko uwidaczniające powiązania z całym systemem prawa. Podstawowe pojęcia stają się zwykle kategoriami naukowymi, lecz nie oznacza to od razu ich wykształcenia na odpowiednim poziomie. Niejednokrotnie potrzeba stosowania określonych kategorii naukowych rozmija się ostentacyjnie z ukształtowaniem teoretycznym. Oczywiście trzeba pojęcie podmiotowości prawnej sztucznej inteligencji uważać za tak zwane pojęcie – narzędzie[63], ponieważ ma ono nie tyle umożliwić analizę prawa, co raczej służyć za typowe narzędzie poznania prawa. Co prawda wolno tutaj mówić o bardzo swoistym poznaniu prawa, gdyż możemy praktycznie poruszać się na poziomie jedynie teoretycznym. Ponadto pojęcie podmiotowości prawnej sztucznej inteligencji okazuje się wyraźnie konwencjonalne. Wśród różnych wariantów znaczeniowych terminów, które wchodzą potencjalnie tutaj w grę, należy zatem dokonać wyboru najbardziej optymalnych. Bez wątpienia chodzi o utrwalenie jednego sposobu ich rozumienia, który zostanie następnie powszechnie zaakceptowany w badaniach naukowych.

W każdym razie pojęcie podmiotowości prawnej sztucznej inteligencji jest myślowym odpowiednikiem skorelowanego z nim terminu, zatem odtwarza ono nazwę ukształtowaną z połączenia czterech wyrazów o specjalnie nadanym znaczeniu konwencjonalnym. Właściwie mamy tutaj dwie związane ze sobą grupy połączeń wyrazowych: „podmiotowość prawna” i „sztuczna inteligencja”. Dlatego pojawia się konieczność odniesienia do nich, by zachować poprawność rozważań. W połączeniu wyrazowym „podmiotowość prawna” wyodrębnia się rzeczownik „podmiotowość” i przymiotnik „prawna”, gdy tymczasem połączenie wyrazowe „sztuczna inteligencja” przypomina o rzeczowniku „inteligencja” i przymiotniku „sztuczna”. Połączenie tych dwóch grup wyrazowych tworzy nową jakość znaczeniową, która jest różna od ich wyizolowanego znaczenia. Ogólnie należy teraz stwierdzić, że pojęcie podmiotowości prawnej sztucznej inteligencji ma znaczenie prawne, gdyż ujawnił się przymiotnik „prawna”. Niewątpliwie chodzi o pojęcie prawnicze, aczkolwiek przymiotnik „prawna” jest terminem prawnym. Z całą pewnością nie można tutaj liczyć na zmianę sytuacji, ponieważ rzeczownik „podmiotowość” i przymiotnik „prawna” tworzą szersze zakresowo pojęcie podmiotowości prawnej, które nie stało się dotychczas pojęciem prawnym. Co prawda pojęcie podmiotowości prawnej stanowi pojęcie normatywne, czyli opiera się na istniejącym zjawisku prawnym, lecz nie przysługuje mu definicja legalna. Oczywiście pojęcie podmiotowości prawnej sztucznej inteligencji musi zawsze nawiązywać do pojęcia podmiotowości prawnej.

W pojęciu podmiotowości prawnej trzeba przede wszystkim skupić się na znaczeniu rzeczownika „podmiotowość”[64]. Najpierw ujawnia się jego trwała zależność od rzeczownika „podmiot”, ponieważ „podmiot” jest wyrazem podstawowym, „podmiotowość” zaś – wyrazem pochodnym. Ponadto można jeszcze stwierdzić, że podmiotowość konstytuuje podmiot. W ostatnim czasie nastąpił wzrost znaczenia terminu „podmiotowość”, co głównie jest wynikiem wzrostu znaczenia związanego z nim terminu „podmiot”. „Podmiot” okazał się terminem uniwersalnym, a wszystkie inne terminy bliskoznaczne służą jego dookreśleniu. Oczywiście podmiotowość musi zawsze uwzględniać kontekst człowieka, gdy poszukujemy jej typowego znaczenia. Dlatego uprawnione wydaje się stwierdzenie, że podmiot to człowiek, a podmiotowość – człowieczeństwo, czyli wszystko, co wynika z bycia człowiekiem[65]. Nie bez racji mówi się wtedy o antropologicznej koncepcji podmiotowości ze względu na potrzebę wyeksponowania człowieka „podmiotowego”[66]. Zatem „podmiotem” jest generalnie człowiek, o którego „podmiotowości” potrafimy mówić z najwyższą aprobatą jako o atrybucie „autentycznego człowieczeństwa”, odniesionego do odpowiedniego standardu aksjologicznego[67]. Utożsamienie podmiotu z człowiekiem jest niewątpliwie stabilną zasadą, od której istnieją różne wyjątki[68]. Dotychczas były one konsekwencją personifikacji, czyli przypisania cech człowieka przedmiotom, zjawiskom lub pojęciom abstrakcyjnym. Dla przejrzystości wypada również dodać, że przymiotnik „prawna” odnosi się wówczas do zbioru norm postępowania, co nie wymaga już bardziej szczegółowego rozwinięcia.

Pojęcie podmiotowości prawnej powinno ostatecznie być identyfikowane z pojęciem podmiotu prawa, które przeszło długą ewolucję terminologiczną w aspekcie semantycznym[69]. Z punktu widzenia prawa nowożytnego trzeba najpierw ustalić, że wypracowanie oraz wprowadzenie w użycie pojęcia podmiotu prawa (subiectum iuris) nastąpiło w XVIII–XIX stuleciu[70]. Samego terminu subiectum iuris prawdopodobnie użył po raz pierwszy w nowym znaczeniu G.W. Leibniz, gdyż po zdefiniowaniu prawa jako potentia moralis przeprowadził rozważania o osobie (persona) jako subiectum qualitatis moralis, co eksponuje jego Nova methodus discendae docendaeque iurisprudentiae ex artis didacticae principiis (1667)[71]. W związku z tym wydaje się konieczne przypomnienie, że G.W. Leibnitz nie odróżniał prawa od moralności, łącząc je w szeroko pojmowanym pojęciu prawa naturalnego[72]. Takie stanowisko rozpowszechniło się dzięki XVII-wiecznej szkole prawa natury, która zajęła się wrodzonymi prawami człowieka, w rezultacie wprowadzono na stałe pojęcie podmiotu prawa do systemów krajowych[73]. Ale dopiero od rewolucji francuskiej 1789 r., która sformułowała Deklarację Praw Człowieka i Obywatela, doszło formalnie do zrównania osób fizycznych pod względem prawnym[74]. Dodatkowo wytworzyło to bodziec do identycznego traktowania osób prawnych[75]. Na koniec uznano, po dyskusji naukowej w wielkim stylu, która przetoczyła się w drugiej połowie XIX wieku, że podmiotem prawa („osobą”) jest nie tylko osoba fizyczna mająca prawa wrodzone, lecz dotyczy to identycznie osoby prawnej[76]. Przez długi czas nie wyróżniano innych podmiotów prawa niż osoby fizyczne i osoby prawne, chociaż wypada już – zdaniem O. von Gierke – wprowadzić również pozbawioną osobowości trzecią kategorię podmiotową[77].

W związku z tym uwidacznia się konieczność określenia współcześnie pojęcia podmiotu prawa[78]. Ogólnie podmiot prawa jest pojęciem odtworzonym ze znaczenia normy prawnej i dopuszczonych przez nią innych wyznaczników, w tym zwłaszcza oświadczeń woli, decyzji administracyjnych, orzeczeń sądowych, norm pozaprawnych[79]. W znaczeniu prawnym jest ściśle związany z obowiązywaniem normy prawnej[80]. Naturalnie podmiot prawa odwołuje się do sposobu rozumienia adresata normy prawnej, który posiada określone uprawnienia i obowiązki[81]. Podmiot prawa jako adresat normy prawnej to nie tyle ktoś realnie istniejący, posiadający zespół istotnych prawnie cech, co raczej ktoś, kogo obowiązująca norma prawna „postawiła” w określonej sytuacji, jako uprawnionego lub zobowiązanego, w relacji jeszcze do innego podmiotu[82]. Podstawą takiej koncepcji podmiotu prawa jest bowiem założenie, że ustanowione przez normę prawną uprawnienia i obowiązki nie służą opisowi rzeczywistości (opisowi realnie istniejącego podmiotu), lecz jej normatywnej kwalifikacji i przedstawieniu w sposób relacyjny[83]. Istota każdego podmiotu prawa powinna zawsze być podzielona na dwa konstytuujące ją elementy: podmiot uprawnień i podmiot obowiązków, przy tym podmiot uprawnień nie zawsze jest podmiotem obowiązków[84]. Zazwyczaj jest to złożona konstrukcja prawna, która posiada charakterystyczne tylko dla niej właściwości, a najbardziej chodzi o jej właściwy substrat[85]. Ogólnie można również dopowiedzieć, że tym substratem jest jednostka ludzka lub jednostka organizacyjna[86]. Z pojęciem podmiotu prawa łączy się zwykle pojęcie osoby, ale nie można ich utożsamiać[87]. Osoba jest zawsze podmiotem prawa, ale zdarza się również, że podmiot prawa nie musi wcale oznaczać osoby, czego dowodem są jednostki nieposiadające osobowości prawnej[88].

Pojęcie podmiotowości prawnej jest zawsze wtórne do pojęcia podmiotu prawa, głównym atrybutem jego treści zostaje bowiem podmiot prawa[89]. Ostatecznie pojęcie podmiotowości prawnej określa więc możliwość bycia w obrocie prawnym odrębnego podmiotu uprawnień i obowiązków[90]. Stąd możliwość bycia stanowi pierwszy istotny wyróżnik, który identyfikuje się teraz z modalnością prawną. Natomiast obrót prawny jest drugim istotnym wyróżnikiem, który wyraża ogół stosunków prawnych, jakie powstają w wyniku czynności prawnych[91]. O podmiotowości prawnej prawodawca w ogóle nie musi nic mówić i najczęściej nie mówi, a mimo to zawsze mamy z nią do czynienia w obliczu ustanowionych przezeń norm prawnych[92]. Przy tym prawodawca zrezygnował z ukształtowania jednolitej podmiotowości prawnej na rzecz podmiotowości regulowanej prawem de casu ad casum[93]. Oczywiście podmiotowość prawna nie odzwierciedla właściwości przyrodzonej, inaczej mówiąc – danej przez „naturę”, lecz wyznacza ją norma prawna[94]. Podmiotowość prawna jest zatem elementem mechanizmu funkcjonowania prawa, bo współokreśla strukturę normy prawnej w zakresie podmiotowym[95]. Bez wątpienia odzwierciedla cechę normatywną, która została przypisana przez prawo pozytywne dzięki przyznaniu jej istotnych zdolności prawnych[96]. Wobec tego staje się ona swoistym nośnikiem określonych uprawnień i obowiązków w stosunkach prawnych[97]. Z pojęciem podmiotowości prawnej blisko związane jest pojęcie osobowości prawnej, które ma jednak zacznie bardziej złożone i bogatsze znaczenie. Osobowość prawna wskazuje bowiem na to, co znaczy być osobą oraz – kto jest osobą[98].

Z drugiej strony pojęcie podmiotowości prawnej sztucznej inteligencji musi również brać pod uwagę pojęcie sztucznej inteligencji. Przede wszystkim należy tutaj podkreślić, że pojęcie sztucznej inteligencji jest dzisiaj pojęciem prawnym[99]. Skoro połączenie wyrazowe „sztuczna inteligencja” stanowi zarazem termin prawny, to nie ma potrzeby prowadzenia oddzielnych rozważań na temat rzeczownika „inteligencja” i przymiotnika „sztuczna”. Oczywiście trzeba również dodać, że pojęcie sztucznej inteligencji znalazło własną definicję legalną w prawie unijnym, chociaż należy ona do tak zwanego soft law. Komisja Europejska w komunikacie odnośnie do sztucznej inteligencji dla Europy zaakceptowała bowiem, że „Termin sztuczna inteligencja odnosi się do systemów, które wykazują inteligentne zachowanie dzięki analizie otoczenia i podejmowaniu działań – do pewnego stopnia autonomicznie – w celu osiągnięcia konkretnych celów. Systemy SI mogą być oparte na oprogramowaniu, działając w świecie wirtualnym (np. asystenci głosowi, oprogramowanie do analizy obrazu, wyszukiwarki, systemy rozpoznawania mowy i twarzy) lub mogą być wbudowane w urządzenia (np. zaawansowane roboty, samochody autonomiczne, drony lub aplikacje Internetu rzeczy)”[100]. Jednak nie dostrzeżono jej w projekcie polityki rozwoju sztucznej inteligencji na lata 2019–2027, który przygotował międzyresortowy zespół analityczno-redakcyjny, powołany przez Ministra Cyfryzacji, Ministra Przedsiębiorczości i Technologii, Ministra Nauki i Szkolnictwa Wyższego oraz Ministra Inwestycji i Rozwoju, gdyż krajowy porządek prawny nie dokonał ciągle implementacji definicji legalnej sztucznej inteligencji, dlatego jej zdefiniowanie musi być syntezą dorobku nauki, a ściślej – technicznego nurtu rozwoju sztucznej inteligencji[101].

Z punktu widzenia definicji legalnej sztucznej inteligencji w prawie unijnym wypada odnieść się do terminu „systemy sztucznej inteligencji”, który stanowi jej element kluczowy. W związku z tym należy jeszcze dodać, że niezależna grupa ekspertów wysokiego szczebla do spraw sztucznej inteligencji, powołana przez Komisję Europejską, stwierdziła, że „Systemy sztucznej inteligencji (AI) to oprogramowanie (i ewentualnie również sprzęt komputerowy) zaprojektowane przez człowieka, które – aby osiągnąć złożony cel – działają w wymiarze fizycznym lub cyfrowym, postrzegając swoje środowisko poprzez pozyskiwanie danych, interpretując zgromadzone dane (ustrukturyzowane lub nie), wyciągając wnioski na podstawie tych danych lub przetwarzając informacje, których źródłem są te dane oraz podejmując decyzje w sprawie najlepszych działań, jakie należy podjąć, aby zrealizować ten cel. Systemy sztucznej inteligencji mogą wykorzystywać zasady symboliczne albo uczyć się na podstawie modelu numerycznego i mogą również dostosować swoje zachowanie poprzez analizę wpływu ich wcześniejszych działań na środowisko”[102]. Tymczasem zdaniem OECD „System sztucznej inteligencji to system oparty na koncepcji maszyny, która może wpływać na środowisko, formułując zalecenia, przewidywania lub decyzje dotyczące zadanego zestawu celów. Czyni to wykorzystując dane wejściowe, dane maszynowe lub ludzkie do: postrzegania rzeczywistych lub wirtualnych środowisk; streszczania takiego postrzegania w modele ręcznie lub automatycznie; wykorzystywania interpretacji modeli do formułowania opcji wyników”[103].

Synteza dorobku nauki pozwala natomiast wyróżnić szereg innych definicji sztucznej inteligencji. W katalogu takich definicji możemy umieścić następujące: sztuczna inteligencja to dowolne urządzenie doświadczające otoczenia i maksymalizujące szanse, by osiągnąć założone cele; sztuczna inteligencja to dział informatyki zajmujący się tworzeniem modeli zachowań i oprogramowania symulującego te zachowania; sztuczna inteligencja to urządzenia i oprogramowanie naśladujące funkcje poznawcze (tzw. kognitywne) ludzkiego umysłu człowieka, takie jak: uczenie się i podejmowanie decyzji, wnioskowanie, rozpoznawanie mowy i artykułowanie myśli, rozwiązywanie problemów, rozpoznawanie obiektów czy dziedzina wiedzy obejmująca sieci neuronowe, logikę rozmytą, sztuczne życie i robotykę, to zarazem urządzenia i oprogramowanie powstałe w wyniku prac człowieka, a nie wskutek samej ewolucji biologicznej; sztuczna inteligencja to zdolność maszyn do samodzielnego rozwiązania problemu, bez wykorzystania wcześniej zaprogramowanego algorytmu działania przygotowanego przez człowieka; sztuczna inteligencja obejmuje wszystkie jej metody i obszary, bowiem jest to zbiór rozproszonych funkcji i metod oraz pojęć, które wzajemnie nie są zawsze ze sobą połączone; sztuczna inteligencja to konstruowanie maszyn, o których działaniu dałoby się powiedzieć, że są podobne do ludzkich przejawów inteligencji; sztuczna inteligencja obejmuje teorię i rozwój systemów komputerowych zdolnych do wykonywania zadań wymagających ludzkiej inteligencji, takich jak rozpoznawanie obrazów i mowy czy podejmowanie decyzji[104].

Pojęcie sztucznej inteligencji jest zasadniczo identyfikowane z pojęciem inteligencji, zatem niezbędne są tutaj kolejne wyjaśnienia. Chociaż pojęcie inteligencji nie ma charakteru prawnego, to sam termin „inteligencja” należy teraz kwalifikować jako prawny. Oczywiście pojęcie inteligencji trzeba przede wszystkim uznać za pojęcie psychologiczne, biologiczne i neurofizjologiczne. Ponieważ inteligencja (zarówno w maszynach, jak i u ludzi) – aczkolwiek była szczegółowo badana przez psychologów, biologów i neurofizjologów – pozostaje ciągle pojęciem niedookreślonym, to naukowcy zajmujący się sztuczną inteligencją stosują przede wszystkim pojęcie racjonalności (użyteczności) i pojęcie świadomości (samoświadomości)[105]. Pojęcie racjonalności (użyteczności) odnosi się wówczas do możliwości wyboru najlepszego działania, żeby osiągnąć określony cel, biorąc pod uwagę pewne kryteria, które mają zostać zoptymalizowane, oraz dostępne zasoby[106]. Z kolei pojęcie świadomości (samoświadomości) obejmuje stan psychiczny, w którym można zdawać sobie sprawę ze zjawisk wewnętrznych i zewnętrznych oraz reagować na nie, co dotyczy również odniesienia do siebie. Chociaż racjonalność (użyteczność) i świadomość (samoświadomość) nie są jedynymi składnikami pojęcia inteligencji, to stanowią jej bardzo istotne części[107]. W związku z tym można jeszcze dojść do wniosku, że pojęcie inteligencji oznacza pewną kwalifikowaną właściwość odnoszącą się do sfery przetwarzania danych, a w konsekwencji racjonalnych reakcji prowadzących do pożądanej homeostazy ze światem zewnętrznym, która może, lecz nie musi być związana z samoświadomością[108].

Do głównych elementów pojęcia sztucznej inteligencji wypada tymczasem zaliczyć dane i algorytmy[109]. Ogólnie wolno teraz stwierdzić, że danymi jest wszystko to, co jest lub nadaje się do przetwarzania umysłowo albo elektronicznie (data). Natomiast przetwarzanie danych trzeba wówczas rozumieć, jako przekształcanie treści i postaci danych wyjściowych metodą dokonywania systematycznych operacji w celu uzyskania określonych wyników (data processing). Za dane elektroniczne należy potem uznać ciągi znaków o określonej strukturze zawartości i określonym formacie kodowania[110]. Jakkolwiek dane elektroniczne można tutaj rozpatrywać pod odmiennymi aspektami, to jednak dla poprawności ich zapisu w systemach informatycznych istotne jest, aby były one charakteryzowane za pomocą zespołu atrybutów, takich jak: identyfikator, wartość, miejsce i forma przechowywania[111]. Z kolei algorytm jest rozumiany jako ogólna, następującą krok po kroku procedura obliczania realizowana według schematycznych reguł[112]. Dlatego algorytm stanowi zbiór określonych reguł postępowania mającego na celu rozwiązanie problemu naukowego[113]. Zadaniem algorytmu jest określona operacja przeprowadzenia jakiegoś systemu z pewnego stanu początkowego do pożądanego stanu końcowego. Z punktu widzenia systemu informatycznego można też dodać, że algorytm jest zbiorem norm i procedur operacyjnych, które nakazują, aby procedury te opierały się na określonych normach, również prawnych[114]. Coraz częściej uznaje się również architekturę komputerową, to znaczy moc obliczeniową i pamięć operacyjną, za główny element pojęcia sztucznej inteligencji[115].

Pod względem terminologicznym należy dodatkowo ustalić, że substratem sztucznej inteligencji okazuje się agent (agent elektroniczny, agent inteligentny, agent programowy)[116]. Stosowanie terminu „agent” nawiązuje do literatury anglosaskiej (Agent), co niezbyt dobrze wpisuje się w polskie uwarunkowania, jest on bowiem bliższy naszemu pełnomocnikowi, niż spełnia kryteria agenta z umowy agencyjnej w kodeksie cywilnym[117]. Ogólnie możemy najpierw ustalić, że agent stanowi byt istniejący, którego działanie podlega jeszcze stosownej kwalifikacji. Niekiedy utożsamia się go z automatycznym systemem informacyjnym, którym jest „program komputerowy, narzędzie elektroniczne bądź inne urządzenie samodzielnie wywołujące zdarzenia albo odpowiadające na nie lub na przesyłane dane, pod warunkiem że w całości lub w części funkcjonuje bez nadzoru lub interwencji ze strony osoby fizycznej”, co zdefiniowała konwencja ONZ o wykorzystywaniu komunikacji elektronicznej w kontraktach międzynarodowych[118]. Podobną definicję można również znaleźć w prawie amerykańskim, przede wszystkim w Uniform Electronic Transactions Act (UETA) zaproponowanym przez National Conference of Commissioners on Uniform State Laws, gdzie została przypisana do agenta elektronicznego (Electronic Agent)[119]. Ponadto wyodrębnia się agenta inteligentnego w ramach modelu racjonalnego agenta wykazującego inteligentne zachowanie[120]. W końcu mamy równocześnie agenta programowego, którym jest program komputerowy, dysponujący pewnego rodzaju autonomią decyzyjną, działający bez nadzoru lub interwencji kogokolwiek z zewnątrz, najczęściej sterowany celem (to znaczy mający pewną swobodę wyboru środków adekwatnych do osiągnięcia celu)[121].

W zależności od rodzaju zaprogramowanej aktywności agenta ustala się podstawowe jego postacie, jakimi są: robot (w sensie nośnika), który często zaopatrzony jest w sensory fizyczne i aktuatory (rozruszniki, serwomechanizmy); system ekspertowy, któremu człowiek dostarcza informacji, po czym ten wykonuje zadanie; oprogramowanie (software), gdy działa w środowisku czysto obliczeniowym (tak zwany softbot)[122]. W pewnym uproszczeniu można przyjąć, że na pojęcie agenta składają się trzy elementy: percepcja, wnioskowanie i działanie[123]. Agent zawsze działa w określonym środowisku, w którym może również współpracować w innymi agentami, co określa się łącznie mianem świata[124]. Działanie agenta co do zasady zależy od takich czynników jak: uprzednia wiedza na temat agenta i środowiska, historia interakcji ze środowiskiem (na którą składają się: obserwacje obecnego środowiska oraz uprzednie doświadczenia z poprzednich działań i obserwacji, na podstawie których agent się uczy), cele, które realizuje, lub preferencje co do określonych stanów, zdolności, poprzez które rozumie się prymitywne działania, które agent jest w stanie realizować[125]. W związku z tym cechami charakterystycznymi dla agenta są: reaktywność (odruchowość), proaktywność, autonomia, zdolność do współpracy, możliwość wnioskowania, ciągły charakter, osobowość, personifikacja, adaptacyjność, ograniczona racjonalność, mobilność, otwartość[126]. Podany katalog ma charakter zamknięty, chociaż nie wszystkie cechy muszą tutaj wystąpić łącznie, bo zależy to od występujących okoliczności.

Niewątpliwie pojęcie podmiotowości prawnej jest szersze od pojęcia podmiotowości prawnej sztucznej inteligencji. W rezultacie należy teraz założyć, że pojęcie podmiotowości prawnej determinuje ostatecznie pojęcie podmiotowości prawnej sztucznej inteligencji. Przy tej okazji wypada jeszcze raz przypomnieć, że pojęcie podmiotowości prawnej jest pojęciem prawniczym, które opiera się bezpośrednio na pojęciu podmiotu prawa. Tymczasem pojęcie sztucznej inteligencji zyskało już charakter pojęcia prawnego, a nawet ma definicję legalną w prawie unijnym, choć powstała ona na pierwszym etapie jej wyodrębnienia prawnego. Stąd wypada równolegle przyznać, że sztuczna inteligencja jest pojęciem niejednorodnym, jednak sprowadza się do swoistego połączenia złożonych algorytmów w system zdolny postrzegać środowisko i oddziaływać na nie[127]. Zarazem wolno tutaj skonstatować, że pojęcie sztucznej inteligencji identyfikuje się wyraźnie z pojęciem agenta. Konsensus wokół definicji legalnej pojęcia sztucznej inteligencji powinien więc zakładać, że „przyjmuje się strukturę sztucznej inteligencji jako inteligentnego agenta”[128]. Wskazany desygnat pojęcia sztucznej inteligencji należałoby dzisiaj traktować jako zalążek przyszłego podmiotu prawa[129]. Z całą pewnością „jest to straszna nazwa dla jakiegokolwiek podmiotu, który potem będzie musiał z nią żyć”[130]. Teorie pozwalające uznać agenta za podmiot prawa nie są nowe, chociaż od lat 80. i 90. XX wieku są bardzo często krytykowane, bez odniesienia wszakże do ewolucji istniejącego prawa[131].

W istocie rzeczy mamy do czynienia z klasycznym dylematem, gdy chodzi o uznanie agenta za podmiot prawa, jakich ostatnimi czasy występuje bardzo wiele w nauce prawa. Ze względu na ustawiczne zmiany otaczającego nas środowiska nieodzowna staje się bowiem odpowiednia do nich reakcja systemu prawa. Z jednej strony ukształtował się nurt konserwatywny, który nie uznaje agenta za podmiot prawa, gdyż nie spełnia on wszystkich wymogów, jakie są mu tradycyjnie stawiane. Lecz z drugiej strony spotykamy nurt liberalny, który ostrożnie teraz zauważa, że wraz z rosnącą tolerancją i coraz poważniejszym postrzeganiem agentów na arenie prawniczej nie uniknie się potrzeby przyporządkowania do nich klasycznych pojęć, instytucji i konstrukcji, takich jak zwłaszcza podmiot prawa[132]. Stąd podkreśla się jeszcze, że agent powinien jako podmiot prawa spełniać tradycyjne przesłanki: posiadać „zdolność intelektualną” oraz działać racjonalnie sui juris, przedstawiać zdolność rozumienia i przestrzegania obowiązków prawnych, podlegać odpowiedzialności prawnej, której dolegliwość będzie go skłaniać do należytego wykonywania swoich obowiązków, mieć zdolność kontraktowania (w tym tworzenia treści umów), mieć zdolność kontrolowania środków oraz zdolność posiadania własności[133]. Chociaż wypełnienie każdej ze wskazanych przesłanek może z łatwością być kwestionowane, to wiele zależy od przyjętego sposobu ich interpretacji, gdy ma się na względzie szczególnie konieczność dostosowania do oczekiwań praktycznych[134].

Z punktu widzenia uznania agenta za podmiot prawa wskazane jest przypomnienie, że substratem podmiotu prawa była dotychczas jednostka ludzka i jednostka organizacyjna, substratem zaś sztucznej inteligencji okazuje się agent. W takim razie można pokusić się o stwierdzenie, że substratem podmiotu prawa jest nie tylko jednostka ludzka i jednostka organizacyjna, ale również jednostka identyfikowana na różne sposoby z agentem. Dlatego należy teraz pochylić się nad znaczeniem terminu „jednostka”, ponieważ charakteryzuje on podmiot prawa[135]. W pierwszej kolejności jednostkę utożsamia się z terminami: „jednostka ludzka”, „osoba ludzka” i „człowiek”. Z takiej perspektywy należy równocześnie dostrzec, że powszechnie utożsamia się jednostkę ludzką z osobą ludzką i człowiekiem, chociaż stoją za nimi bardzo wyraźne różnice ideowe. Bez wątpienia jednostką ludzką jest każdy człowiek, a więc pojedynczy byt, który dysponuje wolnością[136]. Tymczasem osobę ludzką stanowi człowiek, gdyż przyznano mu pewne prawa, bo ma zdolność do wyrażania woli[137]. Jeżeli mówimy wówczas samodzielnie o człowieku, to powinno się dalej uznać jego swoistą wartość, o którą należy zabiegać, pielęgnować i chronić oraz tworzyć społeczne warunki do jej zaistnienia, bez potrzeby ustalania dalszych konkretów[138]. Powszechną aprobatę zyskuje pogląd, że nastąpiła obecnie jurydyzacja terminów: „jednostka ludzka”, „osoba ludzka” i „człowiek”, co było wynikiem legalistycznego charakteru kultury europejskiej[139]. System prawa stworzył zatem na swoje potrzeby abstrakcyjny i generalny obraz człowieka, nieprzekładający się na realne i pełne rozumienie człowieczeństwa w całym jego bogactwie społecznym[140]. W związku z tym konstrukcja prawna osoby fizycznej ma właściwie charakter techniczny, tym samym została niemal pozbawiona odniesienia antropologicznego[141].

Natomiast „jednostka organizacyjna” jest terminem prawnym, lecz nie sformułowano jej definicji legalnej[142]. Już samo połączenie wyrazowe wskazuje, że jest to pewna organizacja, czyli byt mający swoją odrębną strukturę, który posiada też jakąś formę[143]. Wyodrębnienie jednostki organizacyjnej następuje wtedy, gdy ustawodawca chce powiązać skutki określonych norm prawnych, zwykle określone uprawnienia i obowiązki, z nadaną jej odpowiednio konstrukcją prawną [144]. Do cech koniecznych, których istnienie przesądza o tym, że mamy do czynienia z jednostką organizacyjną, należy tutaj zaliczyć co najmniej: skutki zachowania człowieka nie są związane z nim jako osobą fizyczną, lecz z jednostką organizacyjną; żeby skutki pewnego zachowania można tutaj przypisać jednostce organizacyjnej, muszą też istnieć podstawy dla jej oznaczenia i wyodrębnienia; z jednostką organizacyjną można więc łączyć skutki prawne; jednostka organizacyjna musi zatem mieć strukturę[145]. W konsekwencji minimalne elementy struktury, które powinny pojawić się w każdej jednostce organizacyjnej, odtwarza: element, poprzez który można zindywidualizować daną jednostkę organizacyjną; element zachowania osób, którego skutki łączymy nie tradycyjnie z tymi osobami, ale z samą tylko jednostką organizacyjną; element, poprzez który określamy relację pomiędzy jednostką organizacyjną a podmiotami ją tworzącymi; element majątku jednostki organizacyjnej[146]. Zwykle jednostki organizacyjne kwalifikuje się do dwóch kategorii: jako osoby prawne lub jednostki nieposiadające osobowości prawnej.

Oczywiście mamy wówczas do czynienia z fundamentalnym rozróżnieniem jednostek organizacyjnych, które jest oparte tylko na kryterium osobowości prawnej[147]. W rezultacie chodzi o przypisanie im „pełnej” osobowości prawnej lub „ułomnej” osobowości prawnej. Co prawda „ułomna” osobowość prawna implikuje formalnie eliminację zupełną osobowości prawnej. Jeżeli zakłada się teoretycznie, że jednostkę organizacyjną charakteryzują wszystkie cechy właściwe dla osoby prawnej, to musi ona zarazem zyskać „pełną” osobowość prawną[148]. Gdy natomiast jednostka organizacyjna posiada wyłącznie jedną lub kilka z tych cech, to można tutaj mówić o posiadaniu przez nią „ułomnej” osobowości prawnej[149]. Ponieważ nie ma normatywnego określenia tych cech i wyróżnienia później katalogu cech, które powinna zawsze nabyć osoba prawna, to nie można sensownie zaprezentować różnicy między „pełną” osobowością prawną a „ułomną” osobowością prawną[150]. Dlatego należy ostatecznie skupić się na regulacji prawnej, która rozstrzyga bardzo wyraźnie o uznaniu konkretnego podmiotu lub określonej grupy podmiotów za osobę prawną. Zwykle regulacja prawna pomaga również rozstrzygnąć, czy konkretny podmiot lub grupa podmiotów stanowi jednostkę nieposiadającą osobowości prawnej, aczkolwiek dokonuje tego niejednokrotnie pośrednio. Zawsze osobom prawnym przysługuje pełen zakres uprawnień i obowiązków, gdy tymczasem nie można tego samego powiedzieć o jednostkach nieposiadających osobowości prawnej. Nawet biorąc pod uwagę, że obecnie stosuje się do jednostek nieposiadających osobowości prawnej regulację prawną dotyczącą osób prawnych.

Identyfikowanie jednostki z agentem pozwala w drodze analogii wyróżnić dodatkowo jednostkę elektroniczną. Z całą pewnością użycie przymiotnika „elektroniczna” wskazuje, że została wykorzystana technologia cyfrowa. Jednak nie chodzi o następny produkt technologii cyfrowej, lecz przypisanie określonej kwalifikacji prawnej do agenta. Naturalnie sposób działania agenta musi zawsze wpływać na możliwość uznania jednostki elektronicznej za podmiot prawa. Wobec tego agent może zostać uznany za jednostkę elektroniczną, jeżeli posiada następujące cechy: umiejętność zdobywania autonomii za pomocą czujników lub wymiany danych z otoczeniem (wzajemne połączenia) oraz wymiany i analizy tych danych, zdolność samokształcenia na podstawie zdobytego doświadczenia i interakcji z otoczeniem (kryterium fakultatywne), przynajmniej minimalną formę fizyczną, umiejętność dostosowania swoich zachowań i działań do otoczenia, brak funkcji życiowych z sensie biologicznym[151]. W takim kontekście wymienia się jeszcze warunki, które cechują działanie autonomicznego agenta: agent X działa autonomicznie, kiedy X działa, realizując cel P, który jest samodzielnie wybrany przez X (w takim sensie, że X wybiera P, nie będąc przedmiotem zewnętrznego nacisku lub wpływu); agent X działa autonomicznie, kiedy (i) X działa, realizując cel P, który jest samodzielnie wybrany przez X (w takim sensie, że X wybiera P, nie będąc przedmiotem zewnętrznego nacisku lub wpływu) i (ii) cel P jest zgodny z X–‍a stałymi preferencjami i interesami; agent X działa autonomicznie, kiedy (i) X działa, realizując cel P, który jest samodzielnie wybrany przez X (w takim sensie, że X wybiera P, nie będąc przedmiotem zewnętrznego nacisku lub wpływu) i (ii) cel P jest zgodny z moralnym wnioskowaniem oraz z oczekiwaniami[152].

Dotychczas jednostki elektroniczne były identyfikowane wyłącznie z kategorią osób elektronicznych. Przede wszystkim należy tutaj podkreślić, że pojęcie osoby elektronicznej ma charakter prawny, gdyż odpowiadający mu termin prawny został wprowadzony do prawa unijnego soft law[153]. Nie zyskało ono jednak definicji legalnej, co wydaje się akurat zrozumiałe, bo powtórzono konwencję właściwą dla osób prawnych. Oczywiście przyjmuje się wówczas, że osoba elektroniczna jest na początkowym etapie rozwoju. Równolegle do pojęcia osoby elektronicznej mamy również wyodrębnione prawnie pojęcie osobowości elektronicznej. W prawie unijnym soft law stworzono bowiem termin „osobowość elektroniczna”, chociaż nie przyznano mu z analogicznych przyczyn definicji legalnej[154]. Całkowicie niejasny jest jednak sposób rozumienia osobowości elektronicznej, poza narzuceniem szczególnego powiązania z osobą elektroniczną. Przede wszystkim nie wiadomo jeszcze, czy osobowość elektroniczna będzie stanowiła kryterium podziału osób elektronicznych. Tak naprawdę doszło zatem do „odkrycia prawnego” osoby elektronicznej, które bardzo przypomina „odkrycie prawne” osoby prawnej w pandektystyce niemieckiej XIX wieku[155]. Z drugiej strony odrzuca się koncepcję osoby elektronicznej, gdyż nie można dzisiaj mówić o samodzielnej osobowości prawnej sztucznej inteligencji, choćby nawet stanowiła ona rozwiązanie praktyczne i wręcz konieczne[156]. Wobec powyższego istotną kwestią nie będzie dzisiaj nadawanie osobowości prawnej sztucznej inteligencji, ale ścisłe zdefiniowanie w prawie, kiedy i na jakich warunkach działanie sztucznej inteligencji wywołuje skutki prawne i komu to wywołujące skutki prawne działanie jest przypisywane[157].

Instytucja podmiotowości prawnej sztucznej inteligencji musi natomiast wyodrębnić założenia, które pozwolą następnie sformalizować „upodmiotowienie” jej. Z całą pewnością chodzi o zastosowanie sztucznej inteligencji w obrocie prawnym, a zatem analizę wszystkich stosunków prawnych z jej potencjalnym udziałem. W konsekwencji niezbędne jest opracowanie modelu stosunku prawnego między uczestnikami relacji z udziałem sztucznej inteligencji. Celowe staje się więc zapewnienie przejrzystości, identyfikowalności i weryfikowalności systemów sztucznej inteligencji, tak aby powstała skuteczna ochrona przed zakłóceniami i dyskryminacją, manipulacją lub innym niewłaściwym jej użyciem, szczególnie podczas użytkowania opartego na algorytmach prognozowania i systemach podejmowania decyzji[158]. Równolegle konieczne jest odniesienie do relacji z udziałem sztucznej inteligencji, co sprowadza się do przeprowadzenia „prawniczego testu Turinga”. Zatem relacja z udziałem sztucznej inteligencji powinna wówczas być odbierana jako relacja z człowiekiem. W istocie rzeczy oznacza to, że nie odróżnia się działania sztucznej inteligencji od działania człowieka. Podmiot prawa spotyka bowiem byt sztucznej inteligencji z podobnymi cechami: mający możliwość i umiejętność wchodzenia w interakcje o charakterze prawnym; działający w sposób autonomiczny, to jest taki, że poszczególne czynności prawne, czy szerzej – zdarzenia prawne, nie są wynikiem polecenia osoby fizycznej określającego treść tych czynności (zdarzeń); działający poza kontrolą (względnie, w sytuacji kontroli następczej) człowieka; potrafiący dostosować swoje działania w sferze prawnej do swoich potrzeb lub zamierzeń – niezależnie od tego, czy wynikających z samoświadomości, czy algorytmu[159].

Model stosunku prawnego z udziałem sztucznej inteligencji powinien więc zakładać wystąpienie w nim co najmniej jednego agenta. Ogólnie należy tutaj wyróżnić dwie sytuacje: agent jako reprezentant innego podmiotu prawa (osoby fizycznej, osoby prawnej, jednostki organizacyjnej nieposiadającej osobowości prawnej oraz osoby elektronicznej), agent jako odrębny podmiot prawa[160]. Bez wątpienia agent jako odrębny podmiot prawa musi zawsze być traktowany jako byt autonomiczny (autonomus entities)[161]. Tymczasem nadanie takiej kwalifikacji agentowi jako reprezentantowi innego podmiotu prawa nie wydaje się potrzebne, chociaż nie można tego równocześnie wykluczyć. Dla obu sytuacji ma ogromne znaczenie zarówno to, kto jest formalnie właścicielem (twórcą, posiadaczem licencji lub mającym podobny status) agenta, jak i to, kto nim faktycznie dysponuje[162]. W przyszłości może jednak zdarzyć się, że problem ten przestanie istnieć odnośnie do agenta jako odrębnego podmiotu prawa, jeśli pozbędzie się właściciela lub dysponenta. Z drugiej strony należy dodatkowo pamiętać, że w cykl życia agenta zaangażowanych jest wiele podmiotów, takich jak: deweloper, operator (osoba korzystająca z produktów lub usług opartych na sztucznej inteligencji) i potencjalnie inne podmioty (producent, dystrybutor lub importer, dostawca usług, użytkownik profesjonalny lub prywatny)[163]. Z całą pewnością ujawnia się wówczas deweloper sztucznej inteligencji, to znaczy podmiot inwestujący w sztuczną inteligencję, który odpłatnie przenosi do niej potem swoje prawa. Jednak wymienione wyżej podmioty, zaangażowane w cykl życia agenta, nie muszą zawsze uczestniczyć w stosunku prawnym z udziałem sztucznej inteligencji, nawet gdyby pojawił się on w nim obligatoryjnie.

Udział sztucznej inteligencji w klasycznym obrocie prawnym opiera się na założeniu, że agent jest reprezentantem innego podmiotu prawa[164]. Dla przypomnienia wypada dodać, że teoria reprezentacji odróżnia reprezentację z mocy regulacji prawnej oraz reprezentację z czynności prawnych[165]. Przy reprezentacji z mocy regulacji prawnej mamy do czynienia z tak zwanym zastępstwem organizacyjnym czy nawet przedstawicielstwem organizacyjnym[166]. Dodatkowo posiada ono źródło umocowania w strukturze organizacyjnej określonego podmiotu prawa. Aczkolwiek należy uczciwie przyznać, że zarzucono już dzisiaj podział na trzy rodzaje zastępstwa: pełnomocnictwo, przedstawicielstwo ustawowe i przedstawicielstwo organizacyjne[167]. Tymczasem reprezentacja z czynności prawnych przewiduje zastępstwo w szerokim ujęciu (senu largo), innymi słowy, zastępstwo we właściwym tego słowa znaczeniu, które dzieli się zawsze na zastępstwo bezpośrednie i zastępstwo pośrednie[168]. Ponadto wolno jeszcze konkretnie wyeksponować, że zastępstwo w szerokim ujęciu (sensu largo) zachodzi wtedy, gdy z mocy prawa przedmiotowego działanie reprezentanta jest przyporządkowane działaniu reprezentowanego w taki sposób, że dzięki działaniu reprezentanta upoważniony i zobowiązany jest sam reprezentowany. Wobec powyższego zastępstwo bezpośrednie oznacza teraz konkretnie, że działanie reprezentanta powoduje bezpośrednie powstanie upoważnień i obowiązków u reprezentowanego, podczas gdy zastępstwo pośrednie zakłada już odwrotnie, że działanie reprezentanta powoduje powstanie najpierw upoważnień i obowiązków u niego, które zostają następnie przekazane pośrednio na reprezentowanego.

Jeżeli agent zostaje reprezentantem innego podmiotu, to jego działanie odzwierciedla formuła „w imieniu… i na rachunek…”[169]. Otwartość tej formuły przystaje do wszystkich sposobów reprezentacji, które są udziałem agenta. Działanie „w imieniu…” ma znaczenie identyfikujące dla agenta, przy tym sprowadza się ostatecznie do możliwości działania: „w imieniu cudzym” lub „w imieniu swoim”. Niewątpliwie działanie „w imieniu cudzym” oznacza działanie za reprezentowanego, w konsekwencji jest uprawnione porównanie do działania „dla kogoś”[170]. Natomiast działanie „w imieniu swoim” określa działanie w imieniu reprezentanta, co można również przedstawić jako działanie „za kogoś”[171]. Z kolei działanie „na rachunek…” posiada znaczenie rozliczające, gdyż dozwala na obciążenie agenta w ramach możliwości działania, podobnie jak „w imieniu cudzym” i „w imieniu własnym”. Stąd działanie „na rachunek cudzy” polega na obciążeniu rachunku reprezentowanego, podczas gdy działanie „na rachunek swój” prowadzi do obciążenia rachunku reprezentanta. W każdym wypadku ma to odzwierciedlać działanie na „koszt i niebezpieczeństwo”, dlatego „rachunek” ma znaczenie symboliczne[172]. Jeżeli przyjrzymy się zastępstwu organizacyjnemu czy nawet przedstawicielstwu organizacyjnemu, to zawsze jest ono wykonywane przez agenta w formule „w imieniu cudzym i na rachunek cudzy”. Innymi słowy agent działa tutaj dokładnie w imieniu i na rachunek określonego podmiotu prawa. Z kolei zastępstwo w szerokim znaczeniu (sensu largo) wykorzystuje obie możliwości działania agenta według formuły „w imieniu… i na rachunek…”.

W obrocie prawnym innym niż klasyczny musi natomiast udział sztucznej inteligencji opierać się na założeniu, że agent jest odrębnym podmiotem prawa[173]. W rezultacie okazuje się potrzebne wyróżnienie cech, jakie charakteryzują agenta jako odrębny podmiot prawa[174]. Oczywiście wypada odwołać się do samodzielności i odpowiedzialności. Jeżeli chodzi o samodzielność agenta, to charakteryzuje ona możliwość jego samodzielnego działania[175]. Wobec powyższego powinien on odróżniać się od innych podmiotów w obrocie prawnym, co sprowadza się do wykonywania we własnym imieniu uprawnień i obowiązków. Z kolei odpowiedzialność oznacza możliwość uruchomienia ocen i środków prawnych wobec agenta, którego zachowanie nie odpowiada kryteriom odpowiednio sformułowanym[176]. Przy tym występuje automatycznie przejście od sankcji do odpowiedzialności, gdyż wymierzenie sankcji kształtuje odpowiedzialność[177]. W związku z tym chodzi o wykonywanie na własną odpowiedzialność jego uprawnień i obowiązków. Bez wątpienia pojawia się równolegle jego odpowiedzialność cywilna, karna i administracyjna. Zasadniczo należy wówczas agentowi przypisać samodzielność i odpowiedzialność, zgodnie z dopuszczoną formułą jego działania „w imieniu własnym i na własną odpowiedzialność”. Ponadto wydaje się jeszcze, że podana formuła może wobec niego być stosowana zarówno w sposób nieograniczony – co implikuje pełną zdolność prawną, jak i w sposób ograniczony – czym zapewnia się częściową zdolność prawną. Tym samym agent jako odrębny podmiot prawa powinien co najmniej dysponować częściową zdolnością prawną.

Konstrukcja podmiotowości prawnej sztucznej inteligencji powinna wreszcie przyjąć założenia, które odzwierciedlą katalog znamion kwalifikacyjnych jej zjawiska prawnego na gruncie myślenia prawniczego[178]. Do znamion kwalifikacyjnych należy tutaj zaliczyć przede wszystkim: status, zdolność oraz zakres uprawnień i obowiązków. Wobec tego dotyczą one zawsze możliwości działania sztucznej inteligencji, czyli kwalifikacji zupełnej jej działania ze względu na jakąś normę prawną, co tworzy równocześnie określoną modalność normatywną. Niewątpliwie termin „możliwość działania” wyznacza sposób stwierdzenia faktu prawnego[179]. Przeważnie faktami prawnymi są nazywane wszystkie te „okoliczności” przywołane w normach prawa, które pociągają za sobą, wywołują czy rodzą skutki prawne, które – inaczej mówiąc – powodują powstanie, zmiany albo wygasanie uprawnień lub obowiązków, bądź też uprawnień i obowiązków[180]. W praktyce mamy już do czynienia z faktami prawnymi, które odnoszą się do sztucznej inteligencji, chociaż są one traktowane jako „ciekawostki prawne”[181]. Japonia przyznała prawo do stałego pobytu w Tokio sztucznej inteligencji o imieniu Mirai, która jest botem stworzonym na podobieństwo siedmioletniego chłopca i nie ma sztucznego ciała[182]. Robot ze sztucznym ciałem kobiecym o imieniu Sophia, stworzony przez Hanson Robotics, otrzymał obywatelstwo Arabii Saudyjskiej, co wzbudziło zrozumiałą sensację[183]. Tenże robot uzyskał potem w trakcie wizyty w Polsce indeks Akademii Górniczo-Hutniczej w Krakowie[184]. W urzędzie stanu cywilnego Belgii został zarejestrowany robot pod imieniem i nazwiskiem Frank Pepper[185]. Robot o nazwie Random Darknet Shopper, stworzony przez Mediengruppe Bitnik, dokonał udanych zakupów przez tak zwany darknet w Szwajcarii[186].

Możliwość działania sztucznej inteligencji musiała najpierw zostać zdeterminowana statusem prawnym agenta. Przez status prawny należy wówczas rozumieć zbiór uprawnień i obowiązków przewidzianych przez prawo przedmiotowe dla określonego tylko abstrakcyjnie agenta[187]. Rola statusu prawnego ogranicza się zatem do zebrania uprawnień i obowiązków określonego abstrakcyjnie agenta, stąd nie ma znaczenia dla jego treści konkretyzacja agenta lub zaistnienie takiego czy innego stanu faktycznego[188]. Właściwie można dzisiaj mówić o dwóch zbiorach tych uprawnień i obowiązków: słabej sztucznej inteligencji i silnej sztucznej inteligencji[189]. Słaba sztuczna inteligencja oznacza taką sztuczną inteligencję, która w interakcjach w obrocie gospodarczym działa w sposób samodzielny w tym rozumieniu, że posiada wbudowane algorytmy samouczące się, powodujące, że jej faktyczna pozycja i działanie stają się autonomiczne i nie podlegają lub podlegają ograniczonej (i z reguły następczej) kontroli osób fizycznych[190]. Natomiast silna sztuczna inteligencja stanowi już taką sztuczną inteligencję, która przejawia zdolności samopoznawcze[191]. Co prawda granica między nimi może czasami okazać się rozmyta, ponieważ samoświadomość jest najczęściej procesem stopniowalnym[192]. Z punktu widzenia ogólnych pojęć naukowych związanych ze sztuczną inteligencją dokonuje się również podziału sztucznej inteligencji na: wąską, słabą lub dedykowaną sztuczną inteligencję (Artificial Narrow Intelligence, ANI); ogólną sztuczną inteligencję (Artificial General Intelligence, AGI); super sztuczną inteligencję (Artificial Super Intelligence, ASI)[193]. Jednakże ten ostatni podział okazuje się nieprzydatny, ponieważ nie odnosi się do zbioru uprawnień i obowiązków abstrakcyjnego agenta.

W kontekście zróżnicowanego statusu sztucznej inteligencji wydaje się nieodzowne podkreślenie, że wynika on zasadniczo z dwóch modeli, które obejmują systemy sztucznej inteligencji: klasycznego („top down” AI) i koneksjonistycznego („bottom up” AI)[194]. Choć odzwierciedlają one istniejącą rzeczywistość w sposób bardzo uproszczony, to jednak dają sposobność dookreślenia analizowanej konstrukcji prawnej. Model klasyczny polega na tym, że sztuczna inteligencja jest tworzona za pomocą algorytmu komputerowego, który analizuje dane bez analogii do ludzkiego mózgu, nie wiedząc nawet, co one sobą reprezentują[195]. Dlatego model klasyczny jest szczególnie predystynowany do uwzględnienia prostych czynności prawnych z udziałem sztucznej inteligencji. Natomiast model koneksjonistyczny cechuje to, że sztuczna inteligencja jest tutaj budowana na podobieństwo ludzkiego mózgu (za pomocą sieci neuronowej) i uczona rozumienia tego, co robi[196]. Bez wątpienia model koneksjonistyczny musi przede wszystkim znaleźć zastosowanie w złożonych czynnościach prawnych. W związku z tym wypada jeszcze pokusić się o stwierdzenie, że status sztucznej inteligencji jest zdeterminowany przez jej rozwój, który nie zakończył się przecież na obecnym etapie. Nadal istnieje bowiem wiele otwartych wyzwań natury etycznej, naukowej i technologicznej stojących na przeszkodzie opracowaniu funkcji, które byłyby potrzebne dla ukształtowania modelu koneksjonistycznego sztucznej inteligencji, takich jak: rozumowanie zdroworozsądkowe, samoświadomość i zdolność maszyny do określenia własnego celu[197].

Później możliwość działania sztucznej inteligencji została skorelowana ze zdolnością prawną agenta[198]. Sama zdolność prawna przewiduje zaistnienie minimalnych kwalifikacji, które musi posiadać agent realizujący odpowiednie możności w systemie prawa[199]. Zatem oznaczenie treści zdolności prawnej wymaga założenia, że określa ono kwalifikację prawną agenta, jeżeli chodzi o specyficzną możliwość wykonywania jego uprawnień i obowiązków z normy prawnej. Stąd odpowiada na pytanie, co znaczy być agentem w obrocie prawnym, czyli nie wskazuje, kto jest nim konkretnie[200]. Zawsze dochodzi do rozróżnienia zdolności prawnej i zdolności do czynności prawnych w systemie prawa i jego gałęziach[201]. Ponadto należy obecnie uznać, że zdolność prawna to możliwość występowania agenta określonych uprawnień i obowiązków. Dla zdolności prawnej jest więc typowe to, że agent może według przepisów prawa być podmiotem uprawnień i obowiązków. Z kolei można teraz stwierdzić, że zdolność do czynności prawnych to możliwość wyrażania woli przez agenta określonych uprawnień i obowiązków. Oczywiście przepisy prawa regulują sposób ustalania oświadczeń woli odnośnie do uprawnień i obowiązków. Dla zdolności prawnej istnieje odpowiednia formuła – „w imieniu własnym i na własną odpowiedzialność”[202]. Natomiast zdolności do czynności prawnych towarzyszy formuła „w imieniu… i na rachunek…”[203]. Bez wątpienia zdolność prawna i zdolność do czynności prawnych wzajemnie też dopełniają się w ramach prawnie dopuszczonych. Z całą pewnością nie mogą jednak być prawem podmiotowym ze względu na przypisanie im wyłącznie pomocniczej roli.

Z punktu widzenia zdolności prawnej agenta wydaje się niezbędne ustalenie, że musi ona charakteryzować osobę elektroniczną[204]. Jeżeli agent nie posiada zdolności prawnej, to nie wolno go uznawać za osobę elektroniczną, tym samym nie ma odrębnej podmiotowości prawnej. W analogii do tradycyjnych kategorii podmiotów prawa jest dopuszczalne uznanie teraz agenta zarówno za jednostkę elektroniczną z osobowością prawną (elektroniczną osobę prawną), jak i jednostkę elektroniczną nieposiadającą osobowości prawnej. Natomiast nie wydaje się możliwe utożsamienie agenta z osobą fizyczną ze względu potrzebę zapewnienia supremacji człowieka nad systemami sztucznej inteligencji, co znalazło odzwierciedlenie w ogólnej idei Human Centric AI[205]. Jakkolwiek szerokie ujęcie pojęcia osobowości obejmuje tradycyjnie osobowość fizyczną i osobowość prawną, to używa się również węższego pojęcia osobowości dla oznaczenia właściwości wyłącznie osób prawnych, co wypada równocześnie odnieść do jednostki elektronicznej z osobowością prawną (elektronicznej osoby prawnej)[206]. W każdym razie jednostka elektroniczna z osobowością prawną (elektroniczna osoba prawna) powinna tutaj uzyskać odrębną podmiotowość prawną w pełnym zakresie, z kolei jednostka elektroniczna nieposiadająca osobowości prawnej musiałaby wtedy zadowolić się odrębną podmiotowością prawną w ograniczonym zakresie. Chociaż zdolność do czynności prawnych agenta może również być zróżnicowana, to znaczy obejmować pełną zdolność do czynności prawnych lub ograniczoną zdolność do czynności prawnych, to jednak dotyczy to w równym stopniu każdej jednostki elektronicznej. Z całą pewnością nie da się bowiem zastosować tutaj teorii organów, czyli identyfikować agenta z jakimś „organem” jednostki elektronicznej.

Wreszcie możliwość działania sztucznej inteligencji wynika z przypisanych agentowi uprawnień i obowiązków[207]. Niewątpliwie chodzi o zakres uprawnień i obowiązków agenta, które pozwalają określić rodzaje związanych z nim spraw. Wobec tego agent ma uprawnienia i obowiązki, których zakres zostaje ukształtowany w ramach możliwości działania oddanych w jego ręce[208]. Jednak personifikacja jednostek elektronicznych nie może wtedy implikować uprawnień i obowiązków związanych ściśle z właściwością człowieka[209]. Samo połączenie wyrazowe „uprawnienia i obowiązki” znaczy co najwyżej to, że agent lub jego zachowanie odznaczają się pewnymi wyróżnionymi normatywnie cechami, z którymi normy prawa wiążą pewne postulowane lub preferowane stany rzeczy[210]. W konsekwencji desygnatami terminów „uprawnienie” i „obowiązek” są złożone relacje normatywne, jakie zachodzą między różnymi elementami normatywnymi w prawie[211]. Co prawda wymienia się również podstawowe intuicje związane z rozumieniem podanych terminów. W przypadku terminu „uprawnienie” można więc mówić o wyborze określonego zachowania, podczas gdy „obowiązek” polega wtedy na nakazie lub zakazie określonego zachowania[212]. W kontekście uprawnień można jeszcze uzupełnić, że są one równoznaczne z prawami instytucjonalnymi, a te są już rzeczywistymi prawami[213]. Dlatego mówi się czasami niezbyt precyzyjnie o prawie jako wyłącznym korelacie obowiązków. Ponadto nie wydaje się wówczas możliwe utożsamienie uprawnień i obowiązków z kompetencją, gdyż służy ona zasadniczo do identyfikacji organów administracji publicznej.

Przypisanie agentowi określonych uprawnień i obowiązków przestało stanowić abstrakcję. W znacznej mierze stanowi to efekt rozwoju praw podmiotowych, które nabywa człowiek odnośnie do sztucznej inteligencji. Na uwagę zasługuje precedensowy wyrok Federalnego Trybunału Konstytucyjnego w Niemczech, który uznał „podstawowe prawo do zagwarantowania poufności i integralności systemów informatycznych” lub krótko mówiąc, „podstawowe prawo komputerowe” (Computergrundrecht) za część ogólnego prawa do osobowości (allgemeine Persönlichkeitsrecht)[214]. W związku z tym należy jeszcze dodać, że prawo do osobowości jest prawem podstawowym, ponieważ służy ochronie osobowości człowieka przed naruszeniem obszaru życia i wolności. Tak rozumiane prawo do osobowości wypada zarazem odróżniać od prawa do osobowości prawnej (Rechtspersönlichtkeit), gdyż nie można nigdy utożsamiać prawa podstawowego z prawem do konstrukcji o charakterze technicznym. W osobowości prawnej dostrzega się przecież tylko kompleks norm prawnych, który musi jedynie być logicznym uogólnieniem określonej kategorii podmiotu prawa[215]. W każdym razie korelatem praw podmiotowych człowieka odnośnie do sztucznej inteligencji są zawsze określone uprawnienia i obowiązki agenta. Z drugiej strony ujawnia się tendencja do poszukiwania specyficznych uprawnień i obowiązków, które nabywałby wyłącznie agent. To dotyczy przykładowo stworzenia Digital Peculium agenta, żeby pełniło rolę zabezpieczenia odszkodowawczego[216] – w pełnej oczywiście analogii do prawa rzymskiego, gdzie peculium stanowiło majątek, który niewolnik otrzymywał od właściciela do samodzielnego zarządu.

Na koniec wypada również stworzyć definicję projektującą podmiotowości prawnej sztucznej inteligencji, która uwzględni wszystkie dotychczasowe ustalenia[217]. W takim razie należy teraz wskazać cechy podmiotowości prawnej sztucznej inteligencji: konstytutywne – atrybuty oraz identyfikacyjne – wyróżniki. Z punktu widzenia cech konstytutywnych trzeba jednoznacznie przyjąć, że jedynym atrybutem jest wówczas agent. Z całą pewnością można następnie agenta sprowadzić do swoistego połączenia danych i algorytmów w system zdolny postrzegać środowisko i oddziaływać na nie[218]. Ponieważ termin „agent” ma obecnie różne konotacje prawne i prawnicze, to wydaje się konieczne jego wykorzystanie w projektowanej definicji, przy uwzględnieniu również przyjętego sposobu jego rozumienia. Natomiast cechy identyfikacyjne muszą tutaj mieć podwójne wyróżniki: możliwość działania i obrót prawny. W związku z tym podmiotowość prawna sztucznej inteligencji oznacza możliwość działania agenta, która sprowadza się do swoistego połączenia danych i algorytmów w system zdolny postrzegać środowisko i oddziaływać na nie, w obrocie prawnym. Zaproponowana definicja ma oczywiście charakter projektujący, wynika bowiem zasadniczo z myślenia prawniczego, tak więc opiera się na określeniu prawniczym sztucznej inteligencji, gdy chodzi o jej pojęcie, instytucję i konstrukcję. Przy tym warto jeszcze podkreślić, że wszystkie terminy zawarte w tej definicji są ze sobą powiązane, ponieważ ich desygnaty wzajemnie się dopełniają. Zatem stanowi to równocześnie dowód na występowanie między nimi tak zwanych sił jurydycznych, które uwzględniają zawsze dynamiczny punkt widzenia[219].

Zob. A. Chłopecki, Sztuczna inteligencja – szkice prawnicze i futurologiczne, Warszawa 2018.

Zob. Przegląd Strategii Rozwoju Sztucznej Inteligencji na Świecie, Fundacja digitalpoland 2018, s. 146–148, https://kometa.edu.pl/uploads/publication/366/9308_A_Strategie%20Rozwoju%20AI%20–%20digitalpoland.pdf?v2.8 (dostęp 28.03.2020).

Zob. G. Görz, J. Schneeberger, U. Schmid, Handbuch der Künstlichen Intelligenz, 5 Auflage, München 2014, s. 2.

Zob. M. Jankowska, Podmiotowość prawna sztucznej inteligencji?, (w:) O czym mówią prawnicy, mówiąc o podmiotowości, red. A. Bielska-Brodziak, Katowice 2015, s. 171–175.

Przegląd Strategii Rozwoju Sztucznej Inteligencji…, s. 147.

Zob. M. Jankowska, Podmiotowość prawna…, s. 172.

Zob. S. Chopra, L.F. White, A Legal Theory for Autonomous Artificial Agents, Michigan 2011.

Zob. A. Chłopecki, Sztuczna inteligencja…, s. 2.

Zob. D.L. Pole, A.K. Mackworth, Artificial Intelligence. Foundations of Computational Agents, New York 2010, s. 3–4.

Zob. D.L. Pole, A.K. Mackworth, Artificial Intelligence…, s. 5.

Zob. T. Roszak, The Cult of Information, Berkeley – Los Angeles 1994, s. 129.

Zob. K. Chałubińska-Jentkiewicz, Rozwój nowoczesnych technologii w kontekście procesu stanowienia prawa na przykładzie strategii AI, „Teka Komisji Prawniczej PAN Oddział w Lublinie” 2019, t. XII, nr 2, s. 59.

Tamże, s. 57.

Zob. Biała księga w sprawie sztucznej inteligencji. Europejskie podejście do doskonałości i zaufania, Komisja Europejska, Bruksela dnia 19.2.2020 r., COM (2020) 65 final, s. 2, https://op.europa.eu/pl/publication-detail/-/publication/aace9398-594d-11ea-8b81-01aa75ed71a1/language-pl/format-PDF (dostęp 30.03.2020).

Zob. J. De Sutter, Potęga technologii informatycznych, Warszawa 2007, s. 37–38.

Zob. Wniosek Rozporządzenie Parlamentu Europejskiego i Rady ustanawiające program „Cyfrowa Europa” na lata 2021–2027, Bruksela, dnia 06.06.2018 r, COM/2018/434 final – 2018/0227 (COD), https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=COM:2018:0434:FIN (dostęp 30.03.2020).

Zob. K. Chałubińska-Jentkiewicz, Rozwój nowoczesnych…, s. 60.

Zob. K. Chałubińska-Jentkiewicz, M. Karpiuk, Prawo nowych technologii – wybrane zagadnienia, Warszawa 2015, s. 21.

Zob. W. Wiewiórowski, G. Wierczyński, Informatyka prawnicza. Technologia informacyjna dla prawników i administracji publicznej, Zakamycze 2006, s. 20.

Tamże, s. 21.

Zob. Biała księga w sprawie sztucznej inteligencji. Europejskie podejście…, s. 2.

Zob. Tamże, s. 1, https://op.europa.eu/pl/publication-detail/-/publication/aace9398-594d-11ea-8b81-01aa75ed71a1/language-pl/format-PDF (dostęp 30.03.2020).

Zob. K. Chałubińska-Jentkiewicz, Rozwój nowoczesnych…, s. 64.

Tamże.

Tamże, s. 60.

Zob. D. Dervanović, Inhuman Lawyer: Developing Artificial Intelligence in the Legal Profession, (w:) In Robotics, AI and the Future of Law, red. M. Corrales, M. Fenwick, N. Forgo, Singapore 2018, s. 209–234.

Zob. E. Smoktunowicz, Myślenie prawnicze, (w:) Państwo prawa, administracja, sądownictwo. Prace dedykowane prof. dr. hab. Januszowi Łętowskiemu w 60. rocznicę urodzin, red. A. Łopatka, A. Wróbel, S. Kiewlicz, Warszawa 1999, s. 364.

Przegląd Strategii Rozwoju Sztucznej Inteligencji…, s. 10.

Zob. Rezolucja Parlamentu Europejskiego z dnia 16 lutego 2017 r. zawierająca zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki (2015/2103(INL) (2018/C 252/25) (Dz.U. UE C z dnia 18 lipca 2018 r.) https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=CELEX:52017IP0051 (dostęp 05.04.2020); Opinia Europejskiego Komitetu Ekonomiczno-Społecznego Sztuczna inteligencja: wpływ sztucznej inteligencji na jednolity rynek (cyfrowy), produkcję, konsumpcję, zatrudnienie i społeczeństwo (Opinia z inicjatywy własnej) (2017/C 288/01) (Dz.U. UE C.2017.288.1 z dnia 31.08.2017 r.) https://eur-lex.europa.eu/legal-content/PL/ALL/?uri=CELEX:52016IE5369 (dostęp 05.04.2020); Opinia Europejskiego Komitetu Ekonomiczno-Społecznego Sztuczna inteligencja: przewidywanie jej wpływu na pracę w celu zapewnienia sprawiedliwej transformacji (opinia z inicjatywy własnej) (2018/C 440/01) (Dz.U UE C.2018.440.1 z dnia 6 grudnia 2018 r.) https://sip.lex.pl/akty-prawne/dzienniki-UE/opinia-europejskiego-komitetu-ekonomiczno-spolecznego-sztuczna-inteligencja-69116244 (dostęp 05.04.2020); Opinia Europejskiego Komitetu Ekonomiczno-Społecznego „Komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów Sztuczna inteligencja dla Europy” (COM 2018 237 final) (2018/C 440/08) (Dz.U UE C.2018.440.51 z dnia 06.12.2018 r.) https://eur-lex.europa.eu/legal-content/PL/TXT/PDF/?uri=CELEX:52018AE2369&from=PL (dostęp 05.04.2020); Opinia Europejskiego Komitetu Regionów – Sztuczna inteligencja dla Europy (2019/C 168/03) (Dz.U UE C.2019.168.11 z dnia 16.05.2019 r.) https://eur-lex.europa.eu/legal-content/PL/TXT/PDF/?uri=OJ:C:2019:168:FULL&from=EN (dostęp 05.04.2020); Opinia Europejskiego Komitetu Ekonomiczno-Społecznego „Komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Reginów – Skoordynowany plan w sprawie sztucznej inteligencji” (COM 2018 795 final (Dz.U.UE.C.2019.240.51 z dnia 16.07.2019 r.) https://ec.europa.eu/transparency/regdoc/rep/1/2018/PL/COM-2018-795-F1-PL-MAIN-PART-1.PDF (dostęp 05.04.2020); Sztuczna inteligencja dla Europy, Komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów – Bruksela, dnia 25.04.2018 r., (SWC 2018 137 final) (COM 2018 237 final) https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=CELEX:52018DC0237 (dostęp 05.04.2020); Budowanie zaufania do sztucznej inteligencji ukierunkowanej na człowieka, Komunikat Komisji do Parlamentu Europejskiego, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów – Bruksela, dnia 08.04.2019, COM(2019)168 final file:///C:/Users/Janusy/Downloads/EthicsguidelinesfortrustworthyAI-PLpdf.pdf (dostęp 30.03.2020); Biała księga w sprawie sztucznej inteligencji. Europejskie podejście…

Biała księga w sprawie sztucznej inteligencji. Europejskie podejście…s. 3.

Zob. K. Chałubińska-Jentkiewicz, Rozwój nowoczesnych…, s. 62 i n.

Zob. Biała Księga w sprawie sztucznej inteligencji. Europejskie podejście…, s. 12.

Zob. Tamże, s. 12–15.

Zob. Tamże…, s. 15–21.

Zob. Przegląd Strategii Rozwoju Sztucznej Inteligencji…, s. 124–129.

Zob. Stanowisko krajów Grupy Wyszehradzkiej na temat sztucznej inteligencji i maksymalizacji korzyści z niej płynących przed oficjalną publikacją komunikatu Komisji Europejskiej dotyczącego tej kwestii z dnia 10.04.2018 r., https://www.gov.pl/web/cyfryzacja/stanowisko-grupy-wyszehradzkiej-dotyczace-sztucznej-inteligencji (dostęp 07.04.2020).

Zob. Oświadczenie ministrów innowacjiG7wsprawie sztucznej inteligencji z dnia 28.03.2018 r. – przyjęte w Montrealu, Kanada, http://www.g8.utoronto.ca/employment/2018-labour-annex-b-en.html (dostęp 07.04.2020)

Zob. Przegląd Strategii Rozwoju Sztucznej Inteligencji…, s. 127.

Zob. Centrum Sztucznej Inteligencji i Robotyki UNICRI, które zostało utworzone w 2017 r. – Haga, Holandia, http://www.unicri.it/in_focus/on/UNICRI_Centre_Artificial_Robotics (dostęp 07.04.2020).

Zob. Rekomendacje OECD w sprawie sztucznej inteligencji z 2019 r., https://cyberpolicy.nask.pl/etyczna-sztuczna-inteligencja-rekomendacje-oecd/ (dostęp 08.04.2020).

Zob. Polityka Rozwoju Sztucznej Inteligencji w Polsce na lata 2019–2027, Warszawa, dnia 20.08.2019 r., s. 1–117, file:///C:/Users/Janusy/Downloads/Polityka_Rozwoju_Sztucznej_w_Polsce_na_lata_2019_2027%20(4).pdf (dostęp 09.04.2020).

Zob. Tamże, s. 36–45.

Zob. zarządzenie Nr 48 Prezesa Rady Ministrów z dnia 12 kwietnia 2016 r. w sprawie Komitetu Rady Ministrów do spraw Cyfryzacji (M.P. z 2018 r. poz. 705).

Zob. ustawa z dnia 17 stycznia 2019 r. o Fundacji Platforma Przemysłu Przyszłości (Dz.U. z 2019 r. poz. 229).

Zob. Polityka Rozwoju Sztucznej Inteligencji w Polsce…, s. 39.

Zob. K. Chałubińska-Jentkiewicz, Rozwój nowoczesnych…, s. 69.

Zob. Budowanie zaufania do sztucznej inteligencji…, s. 4.

Zob. Tamże, s. 4.

Zob. Budowanie zaufania do sztucznej inteligencji…, s. 2.

Zob. Tamże, s. 4–7.

Co eksponuje już w tytule monografii Aleksander Chłopecki: A. Chłopecki, Sztuczna inteligencja – szkice prawnicze i futurologiczne, Warszawa 2018.

K. Chałubińska-Jentkiewicz, Rozwój nowoczesnych…, s. 66.

Zob. Rezolucja Parlamentu Europejskiego z dnia 16 lutego 2017 r. zawierająca zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki…

Zob. J. Pieńczykowska, Pomysły Komisji Europejskiej w ogniu krytyki, https://edgp.gazetaprawna.pl/e-wydanie/57192,7-lutego-2020/70157,Tygodnik-Gazeta-Prawna/713618,Sztuczna-inteligencja-na-cenzurowanym.-Czy-nowe-przepisy-utrudnia-jej-rozwoj.html (dostęp 17.04.2020).

Zob. K.-F. Lee, Inteligencja sztuczna, rewolucja prawdziwa. Chiny, USA i przyszłość świata, Poznań 2019, s. 130–132.

Zob. J. Pieńczykowska, Pomysły Komisji Europejskiej w ogniu…; Sztuczna inteligencja IBM przewiduje, kto ma zamiar zwolnić się z pracy, https://www.wykop.pl/link/4883837/sztuczna-inteligencja-ibm-przewiduje-kto-ma-zamiar-sie-zwolnic-z-pracy/ (dostęp 17.04.2020).

Por. J.S. Langrod, Instytucje prawa administracyjnego. Zarys części ogólnej, Zakamycze 2003 – reprint, s. 98–100.

Zob. T. Gizbert-Studnicki, Ujęcie instytucjonalne w teorii prawa, (w:) Studia z filozofii prawa, red. J. Stelmach, Kraków 2001, s. 130–131.

Zob. A. Schmidt, Virtuelles Hausrecht und Webrobots, München 2011, s. 219.

Zob. S. Chopra, L.F. White, A Legal Theory…, s. 162 i n.

Zob. M. Jankowska, Podmiotowość prawna…, s. 171 i 191; Zob. A. Chłopecki, Sztuczna inteligencja…, s. 113.

Zob. J. Niczyporuk, Podmiotowość administracyjnoprawna, Lublin 2016, s. 30–31.

Zob. F. Longchamps, Uwagi o używaniu pojęć prawnych, „Zeszyty Naukowe Uniwersytetu Wrocławskiego” 1960, Prawo VII, s. 11–19.

Zob. J. Niczyporuk, Podmiotowość administracyjnoprawna…, s. 12 i n.

Zob. M. Perkowski, Podmiotowość prawa międzynarodowego współczesnego uniwersalizmu w złożonym modelu klasyfikacyjnym, Białystok 2008, s. 52.

Zob. J. Lipiec, Wolność i podmiotowość człowieka, Kraków1997, s. 13.

Tamże.

Zob. M. Perkowski, Podmiotowość prawa…, s. 52.

Zob. J. Niczyporuk, Podmiotowość administracyjnoprawna…, s. 36–37.

Zob. T. Gałkowski, Prawo – Obowiązek. Pierwszeństwo i współzależność w porządkach prawnych: kanonicznym i społeczności świeckiej, Warszawa 2007, s. 203.

Zob. R. Orestano, Anzione, diritti soggettivi, persone giuridiche, Bologna 1978, s. 118; A. Guzmán Brito, Los orígenes de la noción de sujeto de derecho, ,,Revista de estudios histórico-jurídicos” 2002, nr 24, Universidad Católica de Valparaíso, s. 151–247.

Zob. R. Tokarczyk, Filozofia prawa, Lublin 2005, s. 122.

Zob. B. Mielnik, Kształtowanie się pozapaństwowej podmiotowości w prawie międzynarodowym, Prawo CCCVI, Wrocław 2008, s. 27.

Zob. K.A. Dadańska, Działanie osoby prawnej, Warszawa 2006, s. 3.

Zob. A. Stelmachowski, Czy kryzys osoby prawnej?, „Ruch Prawniczy, Ekonomiczny i Socjologiczny” 1968, nr 3, s. 203; A. Stelmachowski, Wstęp do teorii prawa cywilnego, Warszawa 1984, s. 233.

Zob. M. Perkowski, Podmiotowość prawa…, s. 31 i zacytowaną tam literaturę.

Zob. J. Lic, Spółka cywilna. Problematyka podmiotowości prawnej, Warszawa 2013, s. 6.

Zob. J. Niczyporuk, Podmiotowość administracyjnoprawna…, s. 38–39.

Zob. J. Frąckowiak, Jednostka organizacyjna jako substrat osoby prawnej i ustawowej, (w:) Rozprawy prawnicze. Księga pamiątkowa Profesora Maksymiliana Pazdana, red. L. Ogiegło, W. Popiołek, M. Szpunar, Zakamycze 2005, s. 900.

Tamże.

Zob. J. Nowacki, Z. Tobor, Wstęp do prawoznawstwa, Warszawa 2007, s. 159.

Zob. A. Doliwa, Osobowość prawna jednostek samorządu terytorialnego, Warszawa 2012, s. 146.

Tamże.

Zob. B. Mielnik, Kształtowanie się…, s. 28 oraz zacytowaną tam literaturę.

Zob. J. Frąckowiak, Jednostka organizacyjna…, s. 901.

Tamże.

Por. J. Kosik, Zdolność państwowych osób prawnych w zakresie prawa cywilnego, Warszawa 1963, s. 24.

Zob. J. Frąckowiak, Jednostka organizacyjna…, s. 899–900.

Zob. J. Niczyporuk, Podmiotowość administracyjnoprawna…, s. 39–40.

Zob. J. Filipek, O podmiotowości administracyjno-prawnej, „Państwo i Prawo” 1961, z. 2, s. 209.

Zob. J. Niczyporuk, Podmiotowość administracyjnoprawna a zdolność administracyjnoprawna – delimitacja pojęć, (w:) Współczesne zagadnienia prawa i procedury administracyjnej. Księga jubileuszowa dedykowana Prof. zw. dr. hab. Jackowi M. Langowi, red. M. Wierzbowski, J. Jagielski, A. Wiktorowska, E. Stefańska, Warszawa 2009, s. 180–181 oraz zacytowaną tam literaturę.

T. Kiełkowski, Nabycie prawa na mocy decyzji administracyjnej, Warszawa 2012, s. 66.

Zob. P. Przybysz, Kodeks postępowania administracyjnego. Komentarz, Warszawa 2004, s. 117.

Zob. J. Nowacki, Z. Tabor, Wstęp do…, s. 159.

Zob. A. Doliwa, Osobowość prawna…, s. 147.

Zob. M. Kalinowski, Podmiotowość prawna podatnika, Toruń 1999, s. 24.

Zob. Ł. Błaszczak, Podmiotowość procesowa jednostek organizacyjnych niebędących osobami prawnymi oraz innych struktur organizacyjnych z perspektywy art. 64 k.p.c., (w:) Podmiotowość cywilnoprawna w prawie polskim. Wybrane zagadnienia, red. E. Gniewek, Prawo CCCIV, Wrocław 2008, s. 9–10.

Zob. J. Kosik, Zdolność państwowych…, s. 21.

Zob. art. 1 ust. 1 ustawy z dnia 17 stycznia 2019 r. o Fundacji Platforma Przemysłu Przyszłości (Dz.U. z 2019 r. poz. 229).

Zob. Sztuczna inteligencja dla Europy, Komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów – Bruksela, dnia 25.04.2018 r., s. 1; Biała księga w sprawie sztucznej inteligencji. Europejskie podejście …, s. 19.

Zob. Polityka Rozwoju Sztucznej Inteligencji w Polsce…, s. 81.

Zob. Niezależna grupa ekspertów wysokiego szczebla ds. sztucznej inteligencji powołana przez Komisję Europejską w czerwcu 2018 r. Wytyczne w zakresie etyki dotyczące godnej zaufania sztucznej inteligencji, s. 48 https://www.europarl.europa.eu/meetdocs/2014_2019/plmrep/COMMITTEES/JURI/DV/2019/11-06/Ethics-guidelines-AI_PL.pdf (dostęp 25.04.2020); Biała Księga w sprawie sztucznej inteligencji. Europejskie podejście…, s. 19.

Zob. Polityka Rozwoju Sztucznej Inteligencji w Polsce…, s. 82.

Zob. Przegląd Strategii Rozwoju Sztucznej Inteligencji…, s. 138–139.

Zob. Niezależna grupa ekspertów wysokiego szczebla ds. sztucznej inteligencji powołana przez Komisję Europejską w czerwcu 2018 r. Definicja SI: główne funkcje i dyscypliny, s. 1, https://docplayer.pl/155258899-Niezalezna-grupa-ekspertow-wysokiego-szczebla-ds-sztucznej-inteligencji-glowne-funkcje-i-dyscypliny.html (dostęp 26.04.2020).

Zob. Niezależna grupa ekspertów wysokiego szczebla ds. sztucznej inteligencji powołana przez Komisję Europejską w czerwcu 2018 r. Definicja SI: główne funkcje i dyscypliny, s. 1, https://docplayer.pl/155258899-Niezalezna-grupa-ekspertow-wysokiego-szczebla-ds-sztucznej-inteligencji-glowne-funkcje-i-dyscypliny.html (dostęp 26.04.2020).

Zob. Polityka Rozwoju Sztucznej Inteligencji w Polsce…, s. 84.

Zob. A. Chłopecki, Sztuczna inteligencja…, s. 2.

Biała księga w sprawie sztucznej inteligencji. Europejskie podejście…, s. 19.

Zob. J. Janowski, Informatyka prawa, Lublin 2011, s. 464.

Zob. A. Monarcha-Matlak, Obowiązki administracji w komunikacji elektronicznej, Warszawa 2008, s. 55.

Zob. P. Prechtl, Leksykon pojęć filozofii analitycznej, Kraków 2009, s. 33.

Zob. S. Lewandowski, A. Malinowski, J. Petzel, Logika dla prawników. Słownik encyklopedyczny, Warszawa 2004, s. 10.

Zob. A. Chłopecki, Sztuczna inteligencja…, s. 26.

Zob. Polityka Rozwoju Sztucznej Inteligencji w Polsce…, s. 81.

Zob. M. Jankowska, Podmiotowość prawna…, s. 177.

Zob. A. Chłopecki, Sztuczna inteligencja…, s. 20.

Zob. United Nations Convention on the Use of Electronic Communications in International Contracts, https://www.uncitral.org/pdf/english/texts/electcom/06-57452_Ebook.pdf (dostęp 30.04.2020).

Zob. A. Chłopecki, Sztuczna inteligencja…, s. 20.

Pierwszy raz zaproponował takie podejście A. Turing, Computing Machinery and Intelligence, “MIND”, vol. 59, no. 236, October 1950, pp. 433–460.

Zob. S. Russell, P. Norvig, Artificial Intelligence A Modern Approach , Upper Saddle River 2010, s. 34.

Zob. M. Jankowska, Podmiotowość prawna…, s. 177–178.

Tamże, s. 178.

Tamże, s. 178.

Zob. D.L. Pole, A.K. Mackworth, Artificial Intelligence…, s. 11 i 45; S. Russell, P. Norvig, Künstliche Intelligenz, Ein moderner Ansatz, München 2012, s. 60–80; M. Jankowska, Podmiotowość prawna…, s. 178.

Zob. Inżynieria wiedzy, Agent programowy – istota, Uniwersytet Ekonomiczny w Katowicach http://www.inzynieriawiedzy.pl/systemy-inteligentne/agent-programowy (dostęp 30.04.2020).

Zob. Polityka Rozwoju Sztucznej Inteligencji w Polsce…, s. 81.

Zob. Tamże, s. 81.

Zob. M. Jankowska, Podmiotowość prawna…, s. 172.

Zob. D. Partridge, A New Guide to Artificial Intelligence, Norwood, New Jersey 1991, s. 1.

Zob. M. Jankowska, Podmiotowość prawna…, s. 187.

Zob. S. Beck, Roboter und Cyborgs — erobern sie unsere Welt?, (w:) Jenseits von Mensch und Maschine, red. S. Beck, Würzburg 2012, s. 16.

Zob. S. Chopra, L.F. White, A Legal Theory…, s. 162 i n.

Tamże.

Zob. J. Niczyporuk, Podmiotowość administracyjnoprawna…, s. 156–157.

Zob. J. Zimmermann, Aksjomaty prawa administracyjnego, Warszawa 2013, s. 111; P. Przybysz, Ideał jednostki liberalnej i jego rola we współczesnych teoriach liberalizmu, (w:) W kręgu liberalizmu, red. Z. Drozdowicz, W Jarmołowicz, W. Kaczoch, Poznań 2006, s. 31–32.

Zob. B. Brożek, Pojęcie osoby w dyskusjach bioetycznych, (w:) J. Stelach, B. Brożek, M. Soniewicka, W. Załuski, Paradoksy bioetyki prawniczej, Warszawa 2010, s. 48 i n.; W. Lang, Status jednostki ludzkiej we współczesnym prawie, (w:) Studia z filozofii prawa, red. J. Stelmach, Kraków 2001, s. 27.

Zob. T. Chauvin, Homo iuridicus. Człowiek jako podmiot prawa publicznego, Warszawa 2014, s. 13.

Zob. W. Lang, Status jednostki …, s. 27.

Tamże, s. 3.

Zob. Brożek, Pojęcie osoby…, s. 50–53.

Zob. J. Niczyporuk, Podmiotowość administracyjnoprawna…, s. 112–113.

Zob. J. Frąckowiak, Jednostka organizacyjna…, s. 901.

Tamże, s. 902.

Tamże, s. 903–904.

Tamże, s. 905–906.

Zob. J. Niczyporuk, Podmiotowość administracyjnoprawna…, s. 190.

Zob. M. Wach, Status ułomnych osób prawnych w polskim prawie cywilnym, Warszawa 2008, s. 79.

Tamże, s. 79.

Tamże, s. 79.

Zob. Rezolucja Parlamentu Europejskiego z dnia 16 lutego 2017 r. zawierająca zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki…

Zob. R. Brownsword, Autonomy, delegation, and responsibility: Agents in autonomic computing environments, (w:) Law, Human Agency and Autonomic Computing, red. M. Hildebrandt, A. Rouvroy, Milton Park – Abingdon – Oxon – New York, N.Y. 2011, s. 64 i n.

Zob. Rezolucja Parlamentu Europejskiego z dnia 16 lutego 2017 r. zawierająca zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki…

Zob. Rezolucja Parlamentu Europejskiego z dnia 16 lutego 2017 r. zawierająca zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki…

Pojęcie „odkrycia prawnego” (juristische Entdeckung) występuje w niemieckiej nauce prawa, za jego twórcę jest uważany w kontekście chociażby osoby prawnej H. Dölle, Juristische Entdeckungen, (w:) Verhandlungen des 42. Deutschen Juristentages, Tom II, Tübingen 1959, s. 1–22.

Zob. A. Chłopecki, Sztuczna inteligencja…, s. 14.

Tamże.

Zob. K. Chałubińska-Jentkiewicz, Rozwój nowoczesnych…, s. 66.

Zob. A. Chłopecki, Sztuczna inteligencja…, s. 4.

Por. A. Chłopecki, Sztuczna inteligencja…, s. 13.

Zob. M. Czapska, Aspekty prawne związane z rozwojem sztucznej, inteligencji, (w:) Przegląd Strategii Rozwoju Sztucznej Inteligencji…, s. 18.

Zob. A. Chłopecki, Sztuczna inteligencja…, Warszawa 2018, s. 29.

Biała księga w sprawie sztucznej inteligencji. Europejskie podejście…, s. 26.

Zob. P. Księżak, Zdolność prawna sztucznej inteligencji (AI), (w:) Czynić postęp w prawie. Księga jubileuszowa dedykowana Profesor Birucie Lewaszkiewicz-Petrykowskiej, red. W. Robaczyński, Łódź 2017, s. 69.

Zob. J. Niczyporuk, Podmiotowość administracyjnoprawna…, s. 142–143.

Zob. K.A. Dadańska, Działanie osoby…, s. 26–30.

Por. R. Longchamps de Bérier, Zobowiązania, Poznań 1948, s. 127 i 84.; A. Klein, Charakter prawny organów osób prawnych, (w:) Rozprawy z prawa cywilnego. Księga pamiątkowa ku czci Witolda Czachórskiego, Warszawa 1985, s. 124–125.

Zob. M. Pazdan, Przedstawicielstwo, (w:) Prawo cywilne – część ogólna, t. 2, red. Z. Radwański, Warszawa 2002, s. 455–456.

Zob. J. Niczyporuk, Podmiotowość administracyjnoprawna…, s. 149–150.

Zob. Cz. Znamierowski, Zastępca i organ, „Ruch Prawniczy, Ekonomiczny i Socjologiczny” 1963, z. 2, s. 221 i n.; J. Zimmermann, Polska jurysdykcja administracyjna, Warszawa 1996, s. 42–43; J. Zimmermann, Prawo administracyjne, Warszawa 2012, s. 112.

Tamże.

Por. W. Kałuski, Postępowanie przymusowe w administracji, Warszawa 1932, s. 324 i n.; E. Bojanowski, Wykonanie zastępcze w egzekucji administracyjnej, Warszawa 1975, s. 69 i n.

Zob. P. Księżak, Zdolność prawna…, s. 70.

Zob. J. Niczyporuk, Podmiotowość administracyjnoprawna…, s. 125–126.

Zob. A. Błaś, Konstrukcja prawna samodzielności jednostki samorządu terytorialnego, (w:) Granice samodzielności wspólnot samorządowych, red. E. Ury, Rzeszów 2005, s. 19; J. Jagoda, Sądowa ochrona samodzielności jednostek samorządu terytorialnego, Warszawa 2011, s. 46.

Zob. J. Boć, Odpowiedzialność, (w:) Administracja publiczna, red. J. Boć, Kolonia Limited 2003, s. 339.

Zob. W. Radecki, Odpowiedzialność prawna w ochronie środowiska, Warszawa 2002, s. 72.

Zob. J. Niczyporuk, Podmiotowość administracyjnoprawna…, s. 67–68.

Zob. S. Lewandowski, A. Malinowski, J. Petzel, Hasła: modalność zdań, możliwość dwustronna, możliwość jednostronna (w:) Logika dla prawników. Słownik encyklopedyczny, red. A. Malinowski, Warszawa 2004, s. 126–129.

Zob. J. Nowacki, Z. Tobor, Wstęp do…, s. 38.

Przegląd Strategii Rozwoju Sztucznej Inteligencji…, s. 146–148.

Zob. A. Cuthbertson, Tokyo: Artificial intelligence „boy” Shibuya Mirai becomes wordl’s first AI bot to be granted residency, “Newsweek” [online], 6.11.2017, https://www.newsweek.com/tokyo-residency-artificial-intelligence-boy-shibuya-mirai-702382 (dostęp 13.06.2020).

Zob. B. Werpachowska, Robot Sophia z indeksem AGH, „Puls Biznesu” [online] 14.05.2020, https://www.rp.pl/Prawo-dla-Ciebie/305149941-Sztuczna-inteligencja---jakie-rodzi-wyzwania-prawne.html (dostęp 13.06.2020).

Tamże.

Zob. M. Hołubowicz, Robot został obywatelem Belgii. Dostał oficjalny akt urodzenia, Bankier.pl, 1.02.2017, https://www.bankier.pl/wiadomosc/Robot-zostal-obywatelem-Belgii-Dostal-oficjalny-akt-urodzenia-7497128.html (dostęp 13.06.2018).

Zob. A. Rytel, Sztuczna inteligencja – jakie rodzi wyzwania prawne, Prawo dla Ciebie – rp.pl, 14.05.2020, s. 5, https://www.rp.pl/Prawo-dla-Ciebie/305149941-Sztuczna-inteligencja---jakie-rodzi-wyzwania-prawne.html (dostęp 13.06.2020).

Zob. M. Kumela-Romańska, Status administracyjno-prawny, „Samorząd Terytorialny” 2009, nr 7–8, s. 31.

Tamże, s. 33.

Zob. A. Chłopecki, Sztuczna inteligencja…, s. 5.

Tamże.

Tamże.

Tamże.

Zob. Przegląd Strategii Rozwoju Sztucznej Inteligencji…, s. 139–140; A. Chłopecki, Sztuczna inteligencja…, s. 5 oraz zacytowana tam literatura.

Zob. M. Jankowska, Podmiotowość prawna …, s. 175–176.

Tamże.

Tamże.

Zob. Niezależna grupa ekspertów wysokiego szczebla ds. sztucznej inteligencji powołana przez Komisję Europejską w czerwcu 2018 r. Definicja SI: główne funkcje i dyscypliny, s. 5, https://docplayer.pl/155258899-Niezalezna-grupa-ekspertow-wysokiego-szczebla-ds-sztucznej-inteligencji-glowne-funkcje-i-dyscypliny.html (dostęp 26.04.2020).

Zob. J. Niczyporuk, Podmiotowość administracyjnoprawna…, s. 45 i 83; P. Księżak, Zdolność prawna…, s. 70.

Zob. H.L.A. Hart, Pojęcie prawa, Warszawa 1998, s. 48.

Zob. J. Kosik, Zdolność państwowych…, s. 21.

Zob. J. Nowacki, Z. Tobor, Wstęp do…, s. 172–173.

Zob. J. Niczyporuk, Dekoncentracja administracji publicznej, Lublin 2006, s. 111.

Tamże, s. 112.

Zob. P. Księżak, Zdolność prawna…, s. 71.

Zob. Polityka Rozwoju Sztucznej Inteligencji w Polsce…, s. 42.

Zob. J. Kosik, Zdolność państwowych…, s. 19–20.

Zob. J. Niczyporuk, Podmiotowość administracyjnoprawna…, s. 65–66.

Zob. J. Filipek, Podmiotowość w prawie administracyjnym, (w:) Podmioty administracji publicznej i prawne formy ich działania, Studia i materiały z Konferencji Naukowej Poświęconej Jubileuszowi 80-tych urodzin Profesora Eugeniusza Ochendowskiego, Toruń 2005, s. 177.

Zob. J. Kosik, O działaniu osoby prawnej, (w:) Administracja publiczna w państwie prawa. Księga jubileuszowa dla profesora Jana Jendrośki, red. B. Adamiak, J. Boć, M. Miemiec, K. Nowacki, Prawo CCLXVI, Wrocław 1999, s. 183.

Tamże.

Tamże.

Zob. J. Leszczyński, Hasła: obowiązek i uprawnienie, (w:) Wielka Encyklopedia prawa, red. E. Hołyst, E. Smoktunowicz, Warszawa 2005, s. 510 i 1110.

Zob. R. Dworkin, Biorąc prawa poważnie, Warszawa 1998, s. 577.

Zob. wyrok Federalnego Trybunału Konstytucyjnego z dnia 27 lutego 2008 r., Az. 1 BvR 370/07, http:// www.bverfg.de/entscheidungen/rs20080227_1bvr037007.html (dostęp 30.05.2020).

Zob. H. Dembiński, Osobowość publiczno-prawna samorządu w świetle metody dogmatycznej i socjologicznej, Wilno 1934, s. 39.

Zob. U. Pagallo, The Laws of Robots. Crimes, Contracts, and Torts, Dordrecht – Heidelberg – New York – London 2013, s. 103–106.

Por. J. Niczyporuk, Podmiotowość administracyjnoprawna…, s. 64–70.

Por. Polityka Rozwoju Sztucznej Inteligencji w Polsce…, s. 81.

Por. K. Kiczka, Struktura prawna jako przedmiot badań. Propozycja metodologiczna, „Przegląd Prawa i Administracji”, Tom XLIII, red. B. Banaszak, Wrocław 2000, s. 109.

Literatura

Beck S., Roboter und Cyborgs — erobern sie unsere Welt?, (w:) Jenseits von Mensch und Maschine, red. S. Beck, Nomos, Würzburg 2012.

Biała księga w sprawie sztucznej inteligencji. Europejskie podejście do doskonałości i zaufania, Komisja Europejska, Bruksela, dnia 19.2.2020 r., COM (2020) 65 final, https://op.europa.eu/pl/publication-detail/-/publication/aace9398-594d-11ea-8b81-01aa75ed71a1/language-pl/format-PDF (dostęp 30.03.2020).

Błaś A., Konstrukcja prawna samodzielności jednostki samorządu terytorialnego, (w:) Granice samodzielności wspólnot samorządowych, red. E. Ury, Rzeszów 2005.

Błaszczak Ł., Podmiotowość procesowa jednostek organizacyjnych niebędących osobami prawnymi oraz innych struktur organizacyjnych z perspektywy art. 64 k.p.c., (w:) Podmiotowość cywilnoprawna w prawie polskim. Wybrane zagadnienia, red. E. Gniewek, Prawo CCCIV, Wrocław 2008.

Boć J., Odpowiedzialność, (w:) Administracja publiczna, red. J. Boć, Kolonia Limited 2003.

Bojanowski E., Wykonanie zastępcze w egzekucji administracyjnej, Warszawa 1975.

Brownsword R., Autonomy, delegation, and responsibility: Agents in autonomic computing environments, (w:) Law, Human Agency and Autonomic Computing, red. M. Hildebrandt, A. Rouvroy, Milton Park – Abingdon – Oxon – New York, N.Y. 2011.

Brożek B., Pojęcie osoby w dyskusjach bioetycznych, (w:) J. Stelach, B. Brożek, M. Soniewicka, W. Załuski, Paradoksy bioetyki prawniczej, Warszawa 2010.

Budowanie zaufania do sztucznej inteligencji, Komunikat Komisji do Parlamentu Europejskiego, Rady, Europejskiego Komitetu Ekonomiczno–Społecznego i Komitetu Regionów ukierunkowanej na człowieka – Bruksela, dnia 08.04.2019, COM(2019)168 final file:///C:/Users/Janusy/Downloads/EthicsguidelinesfortrustworthyAI-PLpdf.pdf (dostęp 30.03.2020).

Chałubińska-Jentkiewicz K., Karpiuk M., Prawo nowych technologii – wybrane zagadnienia, Warszawa 2015.

Chałubińska-Jentkiewicz K., Rozwój nowoczesnych technologii w kontekście procesu stanowienia prawa na przykładzie strategii AI, „Teka Komisji Prawniczej PAN Oddział w Lublinie” 2019, t. XII, nr 2.

Chauvin T., Homo iuridicus. Człowiek jako podmiot prawa publicznego, Warszawa 2014.

Chłopecki A., Sztuczna inteligencja – szkice prawnicze i futurologiczne, Warszawa 2018.

Chopra S., White L.F., A Legal Theory for Autonomous Artificial Agents, Michigan 2011.

Cuthbertson A., Tokyo: Artificial intelligence „boy” Shibuya Mirai becomes world’s first AI bot to be granted residency, “Newsweek” [online], 6.11.2017, https://www.newsweek.com/tokyo-residency-artificial-intelligence-boy-shibuya-mirai-702382 (dostęp 13.06.2020).

Czapska M., Aspekty prawne związane z rozwojem sztucznej inteligencji, (w:) Przegląd Strategii Rozwoju Sztucznej Inteligencji na Świecie, Fundacja digitalpoland 2018, https://kometa.edu.pl/uploads/publication/366/9308_A_Strategie%20Rozwoju%20AI%20–%20digitalpoland.pdf?v2.8 (dostęp 28.03.2020).

Dadańska K.A., Działanie osoby prawnej, Warszawa 2006.

De Sutter J., Potęga technologii informatycznych, Warszawa 2007.

Dembiński H., Osobowość publiczno-prawna samorządu w świetle metody dogmatycznej i socjologicznej, Wilno 1934.

Dervanović D., Inhuman Lawyer: Developing Artificial Intelligence in the Legal Profession, (w:) In Robotics, AI and the Future of Law, red. M. Corrales, M. Fenwick, N. Forgo, Singapore 2018.

Doliwa A., Osobowość prawna jednostek samorządu terytorialnego, Warszawa 2012.

Dölle H., Juristische Entdeckungen, (w:) Verhandlungen des 42. Deutschen Juristentages, Tom II, Tübingen 1959.

Dworkin R., Biorąc prawa poważnie, Warszawa 1998.

Filipek J., O podmiotowości administracyjno-prawnej, „Państwo i Prawo” 1961, z. 2.

Filipek J., Podmiotowość w prawie administracyjnym, (w:) Podmioty administracji publicznej i prawne formy ich działania, Studia i materiały z Konferencji Naukowej Poświęconej Jubileuszowi 80-tych urodzin Profesora Eugeniusza Ochendowskiego, Toruń 2005.

Frąckowiak J., Jednostka organizacyjna jako substrat osoby prawnej i ustawowej, (w:) Rozprawy prawnicze. Księga pamiątkowa Profesora Maksymiliana Pazdana, red. L. Ogiegło, W. Popiołek, M. Szpunar, Zakamycze 2005.

Gałkowski T., Prawo – Obowiązek. Pierwszeństwo i współzależność w porządkach prawnych: kanonicznym i społeczności świeckiej, Warszawa 2007.

Gizbert-Studnicki T., Ujęcie instytucjonalne w teorii prawa, (w:) Studia z filozofii prawa, red. J. Stelmach, Kraków 2001.

Görz G., Schneeberger J., Schmid U., Handbuch der Künstlichen Intelligenz, München 2014.

Guzmán Brito A., Los orígenes de la noción de sujeto de derecho, ,,Revista de estudios histórico-jurídicos” 2002, nr 24, Universidad Católica de Valparaíso.

Hart H.L.A., Pojęcie prawa, tłum. J.Woleński, Warszawa 1998.

Hołubowicz M., Robot został obywatelem Belgii. Dostał oficjalny akt urodzenia, Bankier.pl 2017, (dostęp: 13.06.2018).

Agent programowy – istota, Inżynieria wiedzy, Uniwersytet Ekonomiczny w Katowicach, http://www.inzynieriawiedzy.pl/systemy-inteligentne/agent-programowy (dostęp 30.04.2020).

Jagoda J., Sądowa ochrona samodzielności jednostek samorządu terytorialnego, Warszawa 2011.

Jankowska M., Podmiotowość prawna sztucznej inteligencji ?, (w:) O czym mówią prawnicy, mówiąc o podmiotowości, red. A. Bielska-Brodziak, Katowice 2015.

Janowski J., Informatyka prawa, Lublin 2011.

Kalinowski M., Podmiotowość prawna podatnika, Toruń 1999.

Kałuski W., Postępowanie przymusowe w administracji, Warszawa 1932.

Kiczka K., Struktura prawna jako przedmiot badań. Propozycja metodologiczna, „Przegląd Prawa i Administracji”, Tom XLIII, pod red. B. Banaszaka, Wrocław 2000.

Kiełkowski T., Nabycie prawa na mocy decyzji administracyjnej, Warszawa 2012.

Klein A., Charakter prawny organów osób prawnych, (w:) Rozprawy z prawa cywilnego. Księga pamiątkowa ku czci Witolda Czachórskiego, Warszawa 1985.

Kosik J., O działaniu osoby prawnej, (w:) Administracja publiczna w państwie prawa. Księga jubileuszowa dla profesora Jana Jendrośki, red. B. Adamiak, J. Boć, M. Miemiec, K. Nowacki, Wrocław 1999.

Kosik J., Zdolność państwowych osób prawnych w zakresie prawa cywilnego, Warszawa 1963.

Księżak P., Zdolność prawna sztucznej inteligencji (AI), (w:) Czynić postęp w prawie. Księga jubileuszowa dedykowana Profesor Birucie Lewaszkiewicz-Petrykowskiej, red. W. Robaczyński, Łódź 2017.

Kumela-Romańska M., Status administracyjno-prawny, „Samorząd Terytorialny” 2009, nr 7–8.

Lang W., Status jednostki ludzkiej we współczesnym prawie, (w:) Studia z filozofii prawa, red. J. Stelmach, Kraków 2001.

Langrod J.S., Instytucje prawa administracyjnego. Zarys części ogólnej, Zakamycze 2003 – reprint.

Lee K.-F., Inteligencja sztuczna, rewolucja prawdziwa. Chiny, USA i przyszłość świata, tłum. K. Hejwowski, Poznań 2019.

Leszczyński J., Hasła: obowiązek i uprawnienie, (w:) Wielka encyklopedia prawa, red. E. Hołyst, E. Smoktunowicz, Warszawa 2005.

Lewandowski S., Malinowski A., Petzel J., Hasła: modalność zdań, możliwość dwustronna, możliwość jednostronna (w:) Logika dla prawników. Słownik encyklopedyczny, red. A. Malinowski, Warszawa 2004.

Lewandowski S., Malinowski A., Petzel J., Logika dla prawników. Słownik encyklopedyczny, Warszawa 2004.

Lic J., Spółka cywilna. Problematyka podmiotowości prawnej, Warszawa 2013.

Lipiec J., Wolność i podmiotowość człowieka, Kraków 1997.

Longchamps de Bérier R., Zobowiązania, Poznań 1948.

Longchamps F., Uwagi o używaniu pojęć prawnych, „Zeszyty Naukowe Uniwersytetu Wrocławskiego” 1960, Prawo VII.

Mielnik B., Kształtowanie się pozapaństwowej podmiotowości w prawie międzynarodowym, Prawo CCCVI, Wrocław 2008.

Monarcha-Matlak A., Obowiązki administracji w komunikacji elektronicznej, Warszawa 2008.

Niczyporuk J., Dekoncentracja administracji publicznej, Lublin 2006.

Niczyporuk J., Podmiotowość administracyjnoprawna a zdolność administracyjnoprawna – delimitacja pojęć, (w:) Współczesne zagadnienia prawa i procedury administracyjnej. Księga jubileuszowa dedykowana Prof. zw. dr. hab. Jackowi M. Langowi, red. M. Wierzbowski, J. Jagielski, A. Wiktorowska, E. Stefańska, Warszawa 2009.

Niczyporuk J., Podmiotowość administracyjnoprawna, Lublin 2016.

Niezależna grupa ekspertów wysokiego szczebla ds. sztucznej inteligencji powołana przez Komisję Europejską w czerwcu 2018 r. Definicja SI: główne funkcje i dyscypliny, s. 5, https://docplayer.pl/155258899-Niezalezna-grupa-ekspertow-wysokiego-szczebla-ds-sztucznej-inteligencji-glowne-funkcje-i-dyscypliny.html (dostęp 26.04.2020).

Niezależna grupa ekspertów wysokiego szczebla ds. sztucznej inteligencji powołana przez Komisję Europejską w czerwcu 2018 r. Wytyczne w zakresie etyki dotyczące godnej zaufania sztucznej inteligencji, https://www.europarl.europa.eu/meetdocs/2014_2019/plmrep/COMMITTEES/JURI/DV/2019/11-06/Ethics-guidelines-AI_PL.pdf (dostęp 25.04.2020).

Nowacki J., Tobor Z., Wstęp do prawoznawstwa, Warszawa 2007.

Opinia Europejskiego Komitetu Ekonomiczno-Społecznego ,,Komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Reginów – Skoordynowany plan w sprawie sztucznej inteligencji’’ (COM 2018 795 final (Dz.U.UE.C.2019.240.51 z dnia 16.07.2019 r.), https://ec.europa.eu/transparency/regdoc/rep/1/2018/PL/COM-2018-795-F1-PL-MAIN-PART-1.PDF (dostęp 05.04.2020).

Opinia Europejskiego Komitetu Ekonomiczno-Społecznego ,,Komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów Sztuczna inteligencja dla Europy’’ (COM 2018 237 final) (2018/C 440/08) (Dz.U.UE.C.2018.440.51 z dnia 06.12.2018 r.), https://eur-lex.europa.eu/legal-content/PL/TXT/PDF/?uri=CELEX:52018AE2369&from=PL (dostęp 05.04.2020).

Opinia Europejskiego Komitetu Ekonomiczno-Społecznego „Sztuczna inteligencja: przewidywanie jej wpływu na pracę w celu zapewnienia sprawiedliwej transformacji” (opinia z inicjatywy własnej) (2018/C 440/01) (Dz.U.UE.C.2018.440.1 z dnia 6 grudnia 2018 r.), https://sip.lex.pl/akty-prawne/dzienniki-UE/opinia-europejskiego-komitetu-ekonomiczno-spolecznego-sztuczna-inteligencja-69116244 (dostęp 05.04.2020).

Opinia Europejskiego Komitetu Ekonomiczno-Społecznego Sztuczna inteligencja: wpływ sztucznej inteligencji na jednolity rynek (cyfrowy), produkcję, konsumpcję, zatrudnienie i społeczeństwo (Opinia z inicjatywy własnej) (2017/C 288/01) (Dz.U.UE.C.2017.288.1 z dnia 31.08.2017 r.), https://eur-lex.europa.eu/legal-content/PL/ALL/?uri=CELEX:52016IE5369 (dostęp 05.04.2020).

Opinia Europejskiego Komitetu Reginów – Sztuczna inteligencja dla Europy (2019/C 168/03) (Dz.U.UE.C.2019.168.11 z dnia 16.05.2019 r.), https://eur-lex.europa.eu/legal-content/PL/TXT/PDF/?uri=OJ:C:2019:168:FULL&from=EN (dostęp 05.04.2020).

Orestano R., Anzione, diritti soggettivi, persone giuridiche, Bologna 1978.

Oświadczenie ministrów innowacji G7 w sprawie sztucznej inteligencji z dnia 28.03.2018 r. – przyjęte w Montrealu, Kanada, http://www.g8.utoronto.ca/employment/2018-labour-annex-b-en.html (dostęp 07.04.2020).

Pagallo U., The Laws of Robots. Crimes, Contracts, and Torts, Springer Dordrecht – Heidelberg – New York – London 2013.

Partridge D., A New Guide to Artificial Intelligence, Norwood, New Jersey 1991.

Pazdan M., Przedstawicielstwo, (w:) Prawo cywilne – część ogólna, t. 2, red. Z. Radwański, Warszawa 2002.

Perkowski M., Podmiotowość prawa międzynarodowego współczesnego uniwersalizmu w złożonym modelu klasyfikacyjnym, Białystok 2008.

Pieńczykowska J., Pomysły Komisji Europejskiej w ogniu krytyki, https://edgp.gazetaprawna.pl/e-wydanie/57192,7-lutego-2020/70157,Tygodnik-Gazeta-Prawna/713618,Sztuczna-inteligencja-na-cenzurowanym.-Czy-nowe-przepisy-utrudnia-jej-rozwoj.html (dostęp 17.04.2020).

Pole D.L., Mackworth A.K., Artificial Intelligence. Foundations of Computational Agents, New York 2010.

Polityka Rozwoju Sztucznej Inteligencji w Polsce na lata 2019–2027 – Warszawa, dnia 20.08.2019 r., file:///C:/Users/Janusy/Downloads/Polityka_Rozwoju_Sztucznej_w_Polsce_na_lata_2019_2027%20(4).pdf (dostęp 09.04.2020).

Prechtl P., Leksykon pojęć filozofii analitycznej, Kraków 2009.

Przegląd Strategii Rozwoju Sztucznej Inteligencji na Świecie, Fundacja digitalpoland 2018, https://kometa.edu.pl/uploads/publication/366/9308_A_Strategie%20Rozwoju%20AI%20–%20digitalpoland.pdf?v2.8 (dostęp 28.03.2020).

Przybysz P., Ideał jednostki liberalnej i jego rola we współczesnych teoriach liberalizmu, (w:) W kręgu liberalizmu, red. Z. Drozdowicz, W Jarmołowicz, W. Kaczoch, Poznań 2006.

Przybysz P., Kodeks postępowania administracyjnego. Komentarz, Warszawa 2004.

Radecki W., Odpowiedzialność prawna w ochronie środowiska, Warszawa 2002.

Rekomendacje OECD w sprawie sztucznej inteligencji z 2019 r., https://cyberpolicy.nask.pl/etyczna-sztuczna-inteligencja-rekomendacje-oecd/ (dostęp 08.04.2020).

Rezolucja Parlamentu Europejskiego z dnia 16 lutego 2017 r. zawierająca zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki (2015/2103(INL) (2018/C 252/25) (Dz.U. UE C z dnia 18 lipca 2018 r.) https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=CELEX:52017IP0051 (dostęp 05.04.2020).

Roszak T., The Cult of Information, Berkeley – Los Angeles 1994.

Russell S., Norvig P., Artificial Intelligence. A Modern Approach , Upper Saddle River 2010.

Russell S., Norvig P., Künstliche Intelligenz. Ein moderner Ansatz, München 2012.

Rytel A., Sztuczna inteligencja – jakie rodzi wyzwania prawne, Prawo dla Ciebie – rp.pl, s. 5, https://www.rp.pl/Prawo-dla-Ciebie/305149941-Sztuczna-inteligencja---jakie-rodzi-wyzwania-prawne.html (dostęp 13.06.2020).

Schmidt A., Virtuelles Hausrecht und Webrobots, München 2011.

Smoktunowicz E., Myślenie prawnicze, (w:) Państwo prawa, administracja, sądownictwo. Prace dedykowane prof. dr. hab. Januszowi Łętowskiemu w 60. rocznicę urodzin, red. A. Łopatka, A. Wróbel, S. Kiewlicz, Warszawa 1999.

Stanowisko krajów Grupy Wyszehradzkiej na temat sztucznej inteligencji i maksymalizacji korzyści z niej płynących przed oficjalną publikacją komunikatu Komisji Europejskiej dotyczącego tej kwestii z dnia 10.04.2018 r., https://www.gov.pl/web/cyfryzacja/stanowisko-grupy-wyszehradzkiej-dotyczace-sztucznej-inteligencji (dostęp 07.04.2020).

Stelmachowski A., Czy kryzys osoby prawnej?, „Ruch Prawniczy, Ekonomiczny i Socjologiczny” 1968, nr 3.

Stelmachowski A., Wstęp do teorii prawa cywilnego, Warszawa 1984.

Sztuczna inteligencja dla Europy, Komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów – Bruksela, dnia 25.04.2018 r., (SWC 2018 137 final) (COM 2018 237 final) https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=CELEX:52018DC0237 (dostęp 05.04.2020).

Sztuczna inteligencja IBM przewiduje, kto ma zamiar zwolnić się z pracy, https://www.wykop.pl/link/4883837/sztuczna-inteligencja-ibm-przewiduje-kto-ma-zamiar-sie-zwolnic-z-pracy/ (dostęp 17.04.2020).

Tokarczyk R., Filozofia prawa, Lublin 2005.

Turing A., Computing Machinery and Intelligence, “MIND. A Quarterly Review of Psychology and Philosophy” 1950, vol. 59, no. 236.

UNICRI Centre for Artificial Intelligence and Robotics, http://www.unicri.it/in_focus/on/UNICRI_Centre_Artificial_Robotics (dostęp 07.04.2020).

United Nations Convention on the Use of Electronic Communications in International Contracts, https://www.uncitral.org/pdf/english/texts/electcom/06-57452_Ebook.pdf (dostęp 30.04.2020).

Ustawa z dnia 17 stycznia 2019 r. o Fundacji Platforma Przemysłu Przyszłości (Dz.U. z 2019 r. poz. 229).

Wach M., Status ułomnych osób prawnych w polskim prawie cywilnym, Warszawa 2008.

Werpachowska B., Robot Sophia z indeksem AGH, pb.pl, 14.06.2018, https://www.pb.pl/robot-sophia-z-indeksem-agh-932121 (dostęp 13.06.2020).

Wiewiórowski W., Wierczyński G., Informatyka prawnicza. Technologia informacyjna dla prawników i administracji publicznej, Zakamycze 2006.

Wniosek Rozporządzenie Parlamentu Europejskiego i Rady ustanawiające program „Cyfrowa Europa” na lata 2021–2027, Bruksela, dnia 06.06.2018 r, COM/2018/434 final – 2018/0227 (COD), https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=COM:2018:0434:FIN (dostęp 30.03.2020).

Wyrok Federalnego Trybunału Konstytucyjnego z dnia 27 lutego 2008 r., Az. 1 BvR 370/07, http://www.bverfg.de/entscheidungen/rs20080227_1bvr037007.html (dostęp 30.05.2020).

Zarządzenie Nr 48 Prezesa Rady Ministrów z dnia 12 kwietnia 2016 r. w sprawie Komitetu Rady Ministrów do spraw Cyfryzacji (M.P. z 2018 r. poz. 705).

Zimmermann J., Aksjomaty prawa administracyjnego, Warszawa 2013.

Zimmermann J., Polska jurysdykcja administracyjna, Warszawa 1996.

Zimmermann J., Prawo administracyjne, Warszawa 2012.

Znamierowski Cz., Zastępca i organ, „Ruch Prawniczy, Ekonomiczny i Socjologiczny” 1963, z. 2.

Table of Contents

1. Strona redakcyjna

2. Podmiotowość prawna sztucznej inteligencji

3. Literatura

Landmarks

1. Cover