Czarni założyciele tworzą dostosowane ChatGPT, aby zapewnić bardziej spersonalizowane doświadczenia

Na początku John Pasmore był podekscytowany ChatGPT.

Założyciel serialu był związany ze sztuczną inteligencją co najmniej od 2008 roku. Pamięta czasy, gdy eksperci deklarowali, że upłyną dziesięciolecia, zanim świat ujrzy coś w rodzaju ChatGPT. Przejdźmy dalej – ten dzień właśnie nadszedł.

Ale jest w tym haczyk.

ChatGPT, jedno z najpotężniejszych narzędzi sztucznej inteligencji na świecie, zmaga się z niuansami kulturowymi. To dość denerwujące dla czarnej osoby, takiej jak Pasmore. W rzeczywistości to niedopatrzenie wywołało gniew wielu Czarnych, którzy już nie widzieli siebie odpowiednio reprezentowanych w algorytmach reklamowanych, aby pewnego dnia uratować świat. Obecny ChatGPT oferuje odpowiedzi, które są zbyt ogólne, aby można było odpowiedzieć na konkretne pytania skierowane do określonych społeczności, ponieważ jego szkolenie wydaje się europocentryczne i zachodnie w swoim nastawieniu. Nie jest to niczym wyjątkowym — większość modeli sztucznej inteligencji nie jest tworzona z myślą o osobach kolorowych. Jednak wielu czarnoskórych założycieli stanowczo twierdzi, że nie można pozostać w tyle.

W zeszłym roku pojawiło się wiele chatbotów i wersji ChatGPT należących do osób czarnoskórych, aby zaspokoić potrzeby społeczności czarnoskórych i brązowych, ponieważ twórcy rasy czarnej, tacy jak Pasmore, starają się wykorzystać kulturowe wpadki OpenAI.

„Jeśli ogólnie zapytasz modelkę, kim są jedni z najważniejszych artystów w naszej kulturze, poda ci Leonarda da Vinci i Michała Anioła” – Pasmore powiedział o ChatGPT. „Nie będzie w nim nic napisane o Indiach, Chinach, Afryce ani nawet Afroamerykanach, ponieważ jest nastawiony na europejską trajektorię historii”.

Więc wystartował Pasmore Latimer.AI, model językowy umożliwiający udzielanie odpowiedzi dostosowanych do doświadczeń osób rasy czarnej i brązowej. Zaczęła Erin Reddick CzatBlackGPT, chatbot również skupiony na społecznościach czarnych i brązowych. Na całym świecie ma siedzibę w Kanadzie Świeca, który jest alternatywą dla ChatGPT dla studentów czarnoskórych i brązowych. W Afryce również obserwuje się ogromne innowacje w tej przestrzeni – pojawiają się modele językowe obsługujące ponad 2000 języków i dialektów używanych na kontynencie, które wciąż przeoczają zachodnie modele sztucznej inteligencji.

„Jesteśmy strażnikami naszych własnych historii i doświadczeń” – powiedziała TechCrunch Tamar Huggins, założycielka Spark Plug. „Musimy stworzyć systemy i infrastrukturę, które posiadamy i które kontrolujemy, aby mieć pewność, że nasze dane pozostaną nasze”.

Spersonalizowana sztuczna inteligencja jest już dostępna

Uogólnione modele sztucznej inteligencji nie są w stanie łatwo uchwycić doświadczeń Afroamerykanów, ponieważ wiele aspektów tej kultury nie jest dostępnych w Internecie. Obecne algorytmy przeszukują Internet w poszukiwaniu źródeł informacji, ale wiele tradycji i dialektów w kulturze Afroamerykanów jest przekazywanych ustnie lub z pierwszej ręki, pozostawiając lukę w tym, co model sztucznej inteligencji zrozumie na temat społeczności, w porównaniu z niuansami tego, co faktycznie się dzieje.

Jest to jeden z powodów, dla których Pasmore podczas tworzenia Latimer.AI próbował korzystać ze źródeł takich jak Amsterdam News, jedna z najstarszych czarnoskórych gazet w USA, koncentrując się na dokładności, a nie na szkoleniu na danych generowanych przez użytkowników pobranych z Internetu. Robiąc to, zaczął dostrzegać różnice między swoim modelem a modelem ChatGPT.

Przypomniał sobie, jak ludzie pytali kiedyś ChatGPT o podziemną kolej, czyli przejście, którym zniewoleni czarni Amerykanie podróżowali do północnych stanów, aby uciec przed niewolnictwem. Model ChatGPT wspominałby o zbiegłych niewolnikach, podczas gdy Latimer.AI dostosował sformułowanie, odnosząc się do „zniewolonych” lub „ludzi poszukujących wolności”, co bardziej odpowiada temu, co stało się bardziej społecznie dostosowane podczas omawiania byłych zniewolonych.

„Występują pewne subtelne różnice w języku, którego używa model, ze względu na dane szkoleniowe, a sam model uwzględnia jedynie osoby rasy czarnej i brązowej” – powiedział Pasmore.

Tymczasem ChatBlackGPT Erin Reddick jest wciąż w fazie beta i ma zostać uruchomiony 11 czerwca. Jej produkt działa tak, jak brzmi: chatbot, w którym można zadawać pytania i otrzymywać dostosowane odpowiedzi na temat czarnej kultury. „Sednem tego, co robimy, jest prawdziwie zorientowane na społeczność” – powiedziała.

Jest w trakcie opracowywania narzędzia, pytając użytkowników jak chcą, żeby to wyglądało i jak chcą, żeby działało. Współpracuje także z instytucjami edukacyjnymi, takimi jak historycznie czarne szkoły wyższe i uniwersytety (HBCU), aby współpracować ze studentami zarówno w zakresie nauczania, jak i pomagania w szkoleniu jej algorytmu. Powiedziała, że ​​chce „stworzyć wszechstronne możliwości uczenia się dla osób rasy czarnej i brązowej, aby miały bezpieczną przestrzeń do odkrywania sztucznej inteligencji”.

„Algorytm nadaje priorytet źródłom informacji osób rasy czarnej, dzięki czemu może odnosić się do wiedzy, z którą można się bardziej bezpośrednio utożsamić niż z przeciętnym doświadczeniem” – powiedziała TechCrunch, dodając, że podobnie jak w przypadku produktu Pasmore, technicznie rzecz biorąc, każdy może z niego korzystać.

Tamar Huggins stworzyła świecę zapłonową, aby zapewnić bardziej dostosowane doświadczenia społecznościom czarnoskórym i brązowym. Jej platforma tłumaczy materiały edukacyjne na język afroamerykański wernakularny (AAVE), etnolekt kojarzony ze społecznościami czarnoskórych Amerykanów. Dialekt ten jest tradycyjnie przekazywany ustnie i z pierwszej ręki, a nie studiowany i spisywany jak standardowy angielski, co oznacza dokładność modelu sztucznej inteligencji (lub osoby), która się go uczy po prostu web załamie się w precyzji. Dokładne przechwytywanie AAVE jest ważne nie tylko po to, aby chatbot zareagował, używając go, ale także po to, aby uczniowie mogli łatwiej pisać podpowiedzi, dzięki którym sztuczna inteligencja zwróci potrzebne wyniki.

„Tworząc treści, które przemawiają do czarnoskórych uczniów, zapewniamy, że widzą siebie w edukacji, co ma kluczowe znaczenie dla wysokiego zaangażowania i sukcesu akademickiego” – powiedział Huggins. „Gdy nadarzy się okazja, Big Tech prawie zawsze będzie przedkładać zyski nad ludzi. Dlatego stworzyliśmy własną ścieżkę w przestrzeni AI.

Aby uchwycić istotę AAVE, Huggins przeszkoliła swój algorytm na pismach czarnoskórych autorów z okresu renesansu w Harlemie, czarnoskórych autorów w edukacji, a nawet na mowie jej nastoletniej córki. Huggins współpracuje również z pedagogami, lingwistami i ekspertami ds. kultury, aby przeglądać i weryfikować wyniki Spark Plug. Jej produkt również nie jest oparty na ChatGPT. Jest to własny model, co oznacza, że ​​użytkownicy kontrolują swoje dane.

Pasmore ma również plany zbudowania osobnego modelu podstawowego dla swojego Latimera.AI. Obecnie pracuje nad rozszerzeniem swojej firmy na szkoły, zwłaszcza HBCU, ponieważ coraz więcej uczniów codziennie korzysta z ChatGPT, aby dokończyć swoją pracę.

„To lepszy towarzysz sztucznej inteligencji do wielu prac, które wykonują czarnoskóre i brązowe dzieci” – powiedział.

Zjednoczenie diaspory

Afryka jest postrzegana jako pomijana w obecnym ruchu AI. Na przykład tylko 0,77% wszystkich czasopism poświęconych sztucznej inteligencji na świecie pochodzi z Afryki Subsaharyjskiej, w porównaniu z Azją Wschodnią i Ameryką Północną, gdzie odsetek ten wynosi odpowiednio 47,1% i 11,6%, według badania z 2023 r. Raport dotyczący indeksu sztucznej inteligencji. Pod względem liczby ludności, w porównaniu z Ameryką Północną, Afryka stanowi około 17% światowej populacji, w porównaniu z zaledwie 7% Ameryki Północnej. Kiedy nadchodzi czas, aby pozyskać informacje i ekspertów na temat sztucznej inteligencji, szanse na wykorzystanie badań z krajów Afryki Subsaharyjskiej są dość niskie, co może mieć wpływ na rozwój globalnych narzędzi sztucznej inteligencji.

Chociaż w Afryce nastąpił duży postęp w tworzeniu bardziej włączających modeli językowych, które lepiej służą czarnej diasporze, obecnie obecne modele sztucznej inteligencji, od ChatGPT po Gemini, nie są w stanie w pełni obsługiwać ponad 2000 języków używanych w całej Afryce.

Stworzyła Yinkę Iyinolakan CDIAL.AI aby się tym zająć. CDIAL.AI to chatbot, który mówi i rozumie prawie wszystkie afrykańskie języki i dialekty, ze szczególnym naciskiem na wzorce mowy, a nie na tekst.

Iyinolakan powtórzył w TechCrunch to samo zdanie, które wyraziło wielu czarnoskórych Amerykanów – że podstawowe modele sztucznej inteligencji są pobierane głównie z danych internetowych i z najczęściej używanych języków. Podobnie jak kultura potomstwa Afroamerykanów, wiele afrykańskich języków i tradycji jest nieobecnych w Internecie, ponieważ jest to kultura historycznie przekazywana ustnie, a nie w formie pisemnej. Oznacza to, że modele sztucznej inteligencji nie mają wystarczających informacji na temat kultur afrykańskich, aby się szkolić, co powoduje lukę w wiedzy.

Do współpracy z CDIAL.AI Iyinolakan zaangażował ponad 1200 rodzimych użytkowników języka i lingwistów z całej Afryki, aby zebrali wiedzę i spostrzeżenia w celu zbudowania, jak to określa, „pierwszego na świecie wielojęzycznego modelu dużego języka, w którym najważniejszy jest głos”. W ciągu najbliższych 12 miesięcy firma planuje rozszerzyć swoją działalność o jeszcze więcej języków i zbudować model obsługujący tekst, głosy i obrazy.

Nie jest tu sam. Niedawno firma Google przyznała firmie Jacaranda Health z siedzibą w Kenii dotację w wysokości 1,4 miliona dolarów na rozwój usług uczenia maszynowego, tak aby mogły one działać w większej liczbie języków afrykańskich, a firma Intron Health zebrała niedawno kilka milionów dolarów na skalowanie swojego klinicznego rozpoznawania mowy pod kątem ponad 200 akcentów używanych w całej Afryce .

„Dolina Krzemowa chce wierzyć, że jest to ostateczny cel sztucznej inteligencji” – powiedział Iyinolakan. „Ale aby „pozyskać” sztuczną inteligencję, którą wszystkie firmy uważają za swoją gwiazdę północną, muszą wykorzystać jedną trzecią wiedzy świata”.

Robimy postępy

Wykorzystywanie chatbotów AI nie jest jedyną innowacją, z którą starają się uporać czarni założyciele.

Firmę założyli Steve Jones i DeSean Brown pocstock do tworzenia zdjęć seryjnych osób kolorowych, ponieważ przez dziesięciolecia brakowało mniejszości reprezentowanych na zdjęciach stockowych. Jest to jeden z powodów, dla których dzisiejsze modelki wypluwają głównie zdjęcia białych ludzi, gdy użytkownicy proszą je o wygenerowanie zdjęć wszystkiego, od lekarzy po piosenkarzy popowych.

„Wszystkie platformy i narzędzia powinny być szkolone na podstawie pełnych, włączających rasowo i kulturowo dokładnych danych, w przeciwnym razie (utrwalą) problemy z uprzedzeniami, przed którymi stoi obecnie nasze większe społeczeństwo” – Jones powiedział TechCrunch. Aby rozwiązać ten problem, pocstock przez ostatnie pięć lat zbierał dane dotyczące różnorodności i tworzył własny system tagowania wizualnego, który stanowi wkład w bazę danych wykorzystywaną przez firmy do szkolenia modeli sztucznej inteligencji, dzięki czemu mogą one tworzyć bardziej włączające obrazowanie.

Następują jednak pewne ulepszenia. Jones powiedział, że zauważył, że większe firmy zajmujące się obrazowaniem stockowym, które korzystają z usług firm zajmujących się sztuczną inteligencją, robią większe postępy w zwiększaniu różnorodności swoich treści. Pasmore widzi przed sobą także lepszą przyszłość, twierdząc, że spersonalizowana sztuczna inteligencja i tak jest przyszłością i że im więcej modeli sztucznej inteligencji wchodzi w interakcję z użytkownikami, tym lepiej rozumie pragnienia i potrzeby konkretnej osoby, „co, jak sądzę, eliminuje wiele uprzedzeń .”

W przyszłości może nawet pojawić się miejsce na bardziej specyficzne kulturowo modele sztucznej inteligencji, zwłaszcza że pojawia się coraz więcej alternatyw należących do Czarnych. W końcu świat jest ogromny i pełen niuansów — nie ma sensu umieszczać go w jednej czarnej skrzynce.

„Mam nadzieję, że więcej twórców koloru zaangażuje się w rozwój własnych platform sztucznej inteligencji lub tworzenie nowych stanowisk pracy związanych ze sztuczną inteligencją jak najwcześniej w kolejnym boomie gospodarczym” – powiedział Jones. „Sztuczna inteligencja stworzy bilionerów i bardzo chciałbym, aby ludzie kolorowi zajęli pozycję producentów, a nie tylko konsumentów”.