Czy jesteśmy świadkami zmierzchu programowania?
Bardzo ciekawie do tego pytania podchodzi dr Matt Welsh, współzałożyciel u CEO Fixie.ai, a wcześniej wykładowca Harvardu jak i manager w takich firmach jak Google, Apple czy OctoML. Link do całego artykułu w pierwszym komentarzu, głównym jednak przesłaniem jest, że AI już całkiem wkrótce zastąpi programistów, choć nie do końca w bezpośredni sposób.
Rozwiązania, które pozwalają na poprawianie czy bardzo zaawansowaną asystę przy programowaniu już istnieją. CoPilot od Githuba potrafi na podstawie zapytania w języku naturalnym zaproponować rozwiązanie w różnych językach programowania. Ostatnio popularny ChatGPT ponoć poprawia źle napisany kod, rozwiązuje zadania matematyczne jak i odpowiada na milion różnych pytań - choć z pytaniem: "Obiekt porusza się przez połowę drogi ze stałym przyśpieszeniem o wartości 1.01G, a następnie ze stałym opóźnieniem 1.01G. W ile godzin przebędzie drogę 1.5 AU jeśli prędkość początkowa obiektu wynosi 0?" nadal sobie nie radzi i za każdym razem podaje inną odpowiedź (przy czym jeszcze ani razu poprawnej).
To cały czas jednak jedynie wierzchołek góry lodowej w kontekście tego, co pisze dr Welsh.
Według niego programowanie jako takie, rozumiane w kontekście pisania kodu, który za pomocą określonych algorytmów operujących strukturami danych udostępni nam rozwiązanie problemu zostanie zastąpione odpowiedzią udzieloną przez system bazujący na uniwersalnym modelu sztucznej inteligencji. Przyszli studenci informatyki nie nauczą się już podstawowych umiejętności jak dodać węzeł do drzewa binarnego czy zbudować hierarchię klas w C++, podobnie jak teraz nie uczy się ich już jak używać suwaka logarytmicznego. Inżynierowie natomiast będą w kilku zdaniach opisywać problem, który następnie instancja modelu z czterema kwintylionami parametrów rozwiąże i poda wynik. Innymi słowy nie będziemy już używali programów, a wyuczonych (wytresowanych?) modeli, które w graniczący z "magicznym" sposób będą odpowiadały na zadane im pytania.
Tutaj jednak według mnie zaczynają się schody. A dokładniej rzecz biorąc w użytym przeze mnie określeniu "magiczny" oraz powiązaniu z pytaniem, które uparcie zadaję ChatGPT i dostaję niepoprawne odpowiedzi. Problem bowiem tkwi w tym, że nawet ludzie, którzy te modele projektują oraz wspomagają ich uczenie nie do końca wiedzą, w jaki sposób dany model zwraca taką a nie inną odpowiedź.
Innymi słowy nie jesteśmy w stanie pojąć, co się pod tą "cyfrową kopułą" dzieje, a co za tym idzie, trudno nam założyć, że odpowiedzi dawane przez te modele są poprawne. W przypadku ChatGPT można co prawda zrozumieć, dlaczego nie potrafi on rozwiązać mojego zadania, które dla ucznia liceum nie powinno stanowić dużego problemu - jest to bowiem model typu #chatbot, czyli przygotowany w taki sposób, aby płynnie potrafił odpowiadać na bazie informacji, a niekoniecznie obliczeń. Niemniej jednak w Internecie można znaleźć mnóstwo zachwytów na temat tego narzędzia, które niektórzy już okrzyknęli prawdziwie uniwersalnym i potrafiącym niemalże wszystko.
Czy jednak w momencie, gdy tego rodzaju rozwiązania staną się powszechne, a nową, atomową jednostką obliczeniową przestanie być procesor, pamięć czy system wejścia/wyjścia, a potężny, wstępnie wytrenowany i wysoce adaptowalny model AI, jak będziemy w stanie weryfikować jego odpowiedzi? Jeśli studenci nie będą uczeni podstaw, czy nie zostaną postawieni przed koniecznością ślepego zawierzenia sztucznej inteligencji?
W takiej przyszłości, jak wszyscy inżynierowie "starego pokolenia" już wymrą - możemy być świadkami prawdziwego przejęcia świata przez Sztuczną Inteligencję. I wcale nie będzie to polegało na tym, że AI wystrzeli rakiety czy też uwięzi nas w sterowanych inteligentnymi urządzeniami mieszkaniach. Sami się od niej uzależnimy, gdyż z braku wiedzy podstawowej będziemy musieli zaufać AI w każdej dziedzinie - a sami nie będziemy wiedzieli, jak podważyć odpowiedzi udzielane przez modele, które ktoś kiedyś dla nas stworzył.
