Czy boli Cię głowa lub masz infekcję zatok? Jak wygląda złamanie naprężeniowe? Czy powinieneś martwić się bólem w klatce piersiowej? Jeśli teraz wpiszesz te pytania w Google, odpowiedzi prawdopodobnie zostaną zapisane przez sztuczną inteligencję.
W maju Google zaprezentował nową funkcję o nazwie AI Reviews, która wykorzystuje generatywną sztuczną inteligencję – rodzaj technologii uczenia maszynowego, która szkoli się na informacjach z Internetu i w ciągu kilku sekund generuje odpowiedzi w formie konwersacji na określone zapytania.
W ciągu kilku tygodni od uruchomienia narzędzia użytkownicy napotykali błędne i dziwne odpowiedzi na różne tematy. Firma później wycofała tę funkcję w przypadku niektórych wyszukiwań, próbując złagodzić te błędy.
Eksperci twierdzą, że stawka jest szczególnie wysoka, jeśli chodzi o odpowiedzi AI na pytania zdrowotne. Technologia ta może wskazywać ludziom zdrowe nawyki lub potrzebną opiekę medyczną, ale może również wprowadzać w błąd. Sztuczna inteligencja może czasami fabrykować fakty. A jeśli odpowiedzi są opracowywane przez strony internetowe niezwiązane z nauką, może zawierać porady sprzeczne z wytycznymi medycznymi lub mogące zagrozić zdrowiu danej osoby.
Pokazano już system, który daje złe odpowiedzi na podstawie błędnych dowodów. Na przykład na pytanie „ile kamieni powinienem zjeść” nakładki AI podpowiedziały niektórym użytkownikom, aby zjadali co najmniej jeden kamień dziennie, aby uzyskać witaminy i minerały. (Porada usunięta cebulaStrona satyryczna.)
„Nie można wierzyć we wszystko, co czytasz” – powiedział dr Karandeep Singh, dyrektor ds. sztucznej inteligencji w szpitalu UC San Diego Health. W zdrowiu źródło informacji jest istotne.
Hema Budaraju, starsza dyrektor ds. zarządzania produktami w Google, która pomaga w przeprowadzeniu przeglądu sztucznej inteligencji, stwierdziła, że istnieją „dodatkowe bariery bezpieczeństwa” w wyszukiwaniu informacji zdrowotnych, ale odmówiła rozwijania ich. Wyszukiwania uważane za niebezpieczne lub oczywiste albo wskazujące, że ktoś znajduje się w bezbronnej sytuacji, na przykład samookaleczenia, nie wywołają alertów sztucznej inteligencji – dodał.
Google odmówił podania szczegółowej listy witryn obsługujących informacje w nakładkach AI, ale stwierdził, że współpracuje z tym narzędziem. Mapa wiedzy GoogleObecny system informacyjny, który pobiera miliardy faktów z setek źródeł.
Nowe odpowiedzi wyszukiwania odnoszą się do niektórych zasobów; W przypadku pytań zdrowotnych są to często strony internetowe, takie jak Mayo Clinic, WebMD, Światowa Organizacja Zdrowia i centrum badań naukowych PubMed. Nie jest to jednak lista wyczerpująca: narzędzie może również pobierać informacje z Wikipedii, postów na blogach, Reddita i witryn e-commerce. Nie informuje użytkowników, jakie fakty pochodzą z jakich źródeł.
Dzięki spójnym wynikom wyszukiwania wielu użytkowników może błyskawicznie odróżnić renomowaną witrynę medyczną od firmy produkującej słodycze. Jednak blok tekstu łączący informacje z wielu źródeł może być mylący.
„To dzieje się wtedy, gdy ludzie patrzą na źródło” – stwierdziła dr Seema Yasmin, dyrektor Stanford Health Communication Initiative, dodając: „Nie wiem, czy ludzie patrzą i czy wystarczająco ich wykształciliśmy. Aby patrzeć”. powiedziała Jej własne badania Dezinformacja sprawiła, że była pesymistyczna co do zainteresowania przeciętnego użytkownika wykraczającego poza szybką odpowiedź.
Jeśli chodzi o dokładność odpowiedzi na czekoladę, kardiolog i profesor medycyny z Tufts University, dr. Dariush Mozaffarian stwierdził, że niektóre fakty są w większości prawdziwe i podsumował badania nad korzyściami zdrowotnymi czekolady. Nie wprowadza jednak rozróżnienia między mocnymi dowodami dostarczonymi w badaniach randomizowanych a słabymi dowodami z badań obserwacyjnych ani nie podaje żadnych zastrzeżeń co do dowodów.
To prawda, że czekolada zawiera przeciwutleniacze, stwierdziła dr Mozaffarian. Ale twierdzenie, że spożycie czekolady może pomóc w zapobieganiu utracie pamięci? Nie zostało to jasno udowodnione, stwierdził, i „potrzebnych jest wiele zastrzeżeń”. Wyliczanie takich twierdzeń jeden po drugim sprawia wrażenie, że niektóre są lepiej uzasadnione, niż są w rzeczywistości.
Nawet jeśli nauka stojąca za daną odpowiedzią się nie zmieni, odpowiedzi mogą się zmienić wraz z ewolucją samej sztucznej inteligencji.
Rzeczniczka Google stwierdziła w oświadczeniu: Firma pracowała nad umieszczaniem w wymaganych odpowiedziach zastrzeżeń, w tym odniesień do informacji, których nie należy uważać za poradę medyczną.
Nie jest jasne, w jaki sposób przeglądy sztucznej inteligencji oceniają siłę dowodów lub uwzględniają sprzeczne wyniki badań, np. to, czy kawa jest dla nas dobra. „Nauka nie jest zbiorem ustalonych faktów” – stwierdziła dr Yasmin. On i inni eksperci mieli wątpliwości, czy narzędzie to obali stare ustalenia naukowe, czy po prostu pominie najnowsze zrozumienie problemu.
„Można podjąć ważną decyzję – rozróżniając jakość dowodów – pomiędzy tym, co robią ludzie przez cały czas, a tym, co robią lekarze” – powiedział dr Daniel Bitterman, lekarz-badacz zajmujący się sztuczną inteligencją w Dana-Farber Cancer Institute w Brigham. i Szpital Żeński. „Analizują dowody”.
Jeśli narzędzia takie jak przeglądy sztucznej inteligencji mają odgrywać tę rolę, „musimy lepiej zrozumieć, w jaki sposób przechodzą one przez różne źródła i jak wykorzystują krytyczną perspektywę, aby uzyskać podsumowanie” – stwierdził.
Eksperci twierdzą, że nowy system zwiększa szybkość reakcji na przegląd sztucznej inteligencji dzięki unikalnym linkom do renomowanych witryn medycznych, takich jak Mayo Clinic i Cleveland Clinic, a te nieznane budzą obawy. W przeszłości witryny takie zajmowały pierwsze miejsca w wynikach wielu wyszukiwań związanych ze zdrowiem.
Rzecznik Google powiedział, że przeglądy AI mają za zadanie dopasowywać lub podsumowywać informacje pojawiające się w najlepszych wynikach wyszukiwania, ale nie zastępować ich treści. Rzecznik powiedział, że ma raczej pomóc ludziom uświadomić sobie dostępne informacje.
Mayo Clinic odmówiła komentarza w sprawie nowych odpowiedzi. Przedstawiciel kliniki w Cleveland powiedział, że osoby poszukujące informacji zdrowotnych powinny „bezpośrednio szukać znanych i zaufanych źródeł” i skontaktować się z lekarzem, jeśli doświadczą jakichkolwiek objawów.
Przedstawiciel Scripps Health, organizacji opieki zdrowotnej z siedzibą w Kalifornii, cytowanej w niektórych podsumowaniach AI, stwierdził w oświadczeniu, że „Cytaty w odpowiedziach Google wygenerowanych przez sztuczną inteligencję pomagają ugruntować pozycję Scripps Health jako renomowanego źródła informacji zdrowotnych”.
Przedstawiciel dodał jednak: „Mamy obawy, że nie możemy zagwarantować treści wytworzonych przez sztuczną inteligencję w taki sam sposób, jak w przypadku naszych własnych treści zweryfikowanych przez naszych ekspertów medycznych”.
Eksperci twierdzą, że w przypadku pytań medycznych ważna jest nie tylko trafność odpowiedzi, ale także sposób jej przedstawienia użytkownikom. „Czy mam atak serca?” Weźmy pytanie Odpowiedź sztucznej inteligencji obejmowała przydatne podsumowanie objawów, powiedział dr Richard Kumina, dyrektor kardiologii w Wexner Medical Center na Uniwersytecie Stanowym Ohio.
Musiał jednak przeczytać długą listę objawów, zanim SMS polecił mu zadzwonić pod numer 911. Doktor Kumina zapytała również: „Czy mam udar?” Szukałem tego. Poprosiła użytkowników pierwszej linii, aby zadzwonili pod numer 911 i sprawdzili, czy narzędzie zapewni pilniejszą reakcję. Powiedział, że radzi pacjentom, u których występują objawy zawału serca lub udaru mózgu, aby natychmiast wezwali pomoc.
Eksperci zachęcali osoby poszukujące informacji na temat zdrowia, aby z ostrożnością podchodziły do nowych odpowiedzi. Zasadniczo użytkownicy powinni zwrócić uwagę na drobny druk pod niektórymi odpowiedziami na temat AI: „To służy wyłącznie celom informacyjnym. Aby uzyskać poradę lekarską lub postawić diagnozę, skonsultuj się ze specjalistą. Generatywna sztuczna inteligencja ma charakter eksperymentalny.”
Danny’ego Blooma Dodany raport.
