Wpisy · Mesh Refinement

Najpierw wyczyść swoje dokumenty

Fri, 29 Aug 2025 12:23:20 +0200

Ostatnio mnożą się alerty o podatnościach bezpieczeństwa związanych z pośrednimi atakami typu prompt injection. Główny wniosek brzmi: LLM-y są łatwowierne i nikt nie wie, jak uczynić je całkowicie odpornymi. W związku z tym żaden system AI nie jest bezpieczny.

To oczywiście całkowita prawda i uwaga, jaką przyciągają te ataki, jest jak najbardziej pożądana, ale główne pytanie pozostaje bez odpowiedzi: co z tym właściwie zrobić?

Puryści forsowaliby zakaz wszelkich zewnętrznych danych wejściowych, które mogłyby prowadzić do prompt injection, ale szczerze mówiąc, nie byłbym aż tak pryncypialny. Wiele naprawdę użytecznych aplikacji opiera się na zewnętrznym wejściu, więc obawiam się, że musimy się cofnąć do ostatniej linii obrony: dyscypliny inżynierskiej.

Istnieją różne schematy wykorzystujące sprytną interakcję kilku modeli, żeby zminimalizować ich ekspozycję na ataki (zob. na przykład artykuł o CaMeL). Uważam jednak, że za mało uwagi poświęcamy zwykłej sanityzacji danych wejściowych.

Wiele takich ataków opiera się na tekście ukrytym przed człowiekiem, lecz widocznym dla maszyny. Wykrywanie i usuwanie takiego tekstu jest stosunkowo trywialne (w sensie programistycznym), choć wymaga pracy na poziomie kontenera, a nie samego tekstu. Ta technika (nazywana swoją drogą Content Disarm & Reconstruction) istnieje już od dłuższego czasu. Szczerze mówiąc, dziwi mnie, że nie jest wdrożona wszędzie. Nie powstrzymałaby wszystkich ataków, ale utrudniłaby życie mało wyrafinowanemu napastnikowi.

A tym, którzy upierają się, że 99% w bezpieczeństwie to ocena niedostateczna, chciałbym przypomnieć fundamentalną zasadę bezpieczeństwa: żaden system nie jest w 100% bezpieczny. Rolą bezpieczeństwa jest sprawić, żeby atak kosztował więcej niż potencjalna korzyść z niego płynąca (zob. model Gordona–Loeba).

Z tym paradygmatem w głowie możemy budować niezawodne i bezpieczne systemy AI, nawet z niebezpiecznych pojedynczych komponentów.

2025-08-08 09:45

Fri, 08 Aug 2025 09:45:22 +0200

Kilka rzeczy, które warto wiedzieć o najnowszej premierze GPT-5, a o których ewangeliści nie mówią:

GPT-5 nie jest jednym modelem. To, co poza kontekstem API nazywa się GPT-5, jest routerem, który przekazuje twoje zapytanie do modelu mającego, jego zdaniem, obsłużyć je najefektywniej. W tym świetle trzeba patrzeć na obietnicę OpenAI o dostępie dla wszystkich. Dają dostęp do routera, a ty nie znasz konkretnej konfiguracji, którą ci przydzielono, ani tego, czy faktycznie uda ci się przetestować najpotężniejszy model. To bez wątpienia sprawi, że doświadczenia różnych użytkowników będą zupełnie różne.
GPT-5 nie jest doktorem nauk. To całkiem zdolny model (a przynajmniej jeden z nich jest), który błyszczy w niektórych zadaniach. Można oczekiwać poprawy w:
- zdolnościach kodowania (robią wrażenie według części vibe testów, ale według benchmarku SWE-bench Verified przewaga nad Claude Opus 4.1 jest minimalna);
- wywoływaniu narzędzi, co ma największe znaczenie dla obciążeń agentowych;
- innych zadaniach, w których OpenAI miało dostęp do natychmiastowego feedbacku.
To ważne usprawnienia dla wielu dziedzin, ale nie czynią one z modelu doktora nauk. Halucynacja o profilu skrzydła podczas demo doskonale pokazuje, że model wciąż internalizuje przekonanie najpowszechniejsze, a nie najbardziej aktualne. To bardzo trudny problem do rozwiązania i w gruncie rzeczy poważna przeszkoda na drodze do AGI.
Mniej halucynacji to broń obosieczna. Z jednej strony im mniej model halucynuje, tym lepiej, bo można mu bardziej ufać. Z drugiej strony im bardziej ufasz modelowi, tym łatwiej przegapisz faktyczne halucynacje. W realnym świecie najlepszy jest model, który nie halucynuje nigdy. Model halucynujący w 0,01% przypadków może być groźniejszy od takiego, który halucynuje w 10% przypadków.

Moje osobiste wrażenie jak dotąd jest takie, że ma on wciąż tę samą przypadłość co poprzednie modele OpenAI: bez starannego promptowania jest naprawdę powierzchowny. Serwuje najpłytszą analizę, jaka mu ujdzie na sucho, i maskuje ten fakt bardzo dobrze ustrukturyzowanymi odpowiedziami.

2025-07-31 11:44

Thu, 31 Jul 2025 11:44:43 +0200

Google Opal

Google uruchomił publiczny preview swojego nowego narzędzia do graficznego tworzenia wieloetapowych workflow AI. Choć nie nadaje się ono do zastosowań produkcyjnych, świetnie pomaga w budowaniu osobistych narzędzi (a każdy powinien budować osobiste narzędzia, serio, to teraz największy wyróżnik).

Działa na platformie Gemini z modelami Gemini (a jakże) i jako narzędzie w wersji preview jest na razie darmowe. W przyszłości najpewniej będzie korzystać z planu Gemini, jeśli użytkownik go ma. Nie jestem pewien co do własnych kluczy API, bo wygląda to na narzędzie dla szerokiej publiczności, ale zobaczymy.

Na razie jest dostępne wyłącznie w USA.

2025-07-31 10:19

Thu, 31 Jul 2025 10:19:46 +0200

Na X aż huczy od nowego modelu Horizon Alpha, który w pojedynkę bije wszystkie dotychczasowe modele w rozmaitych vibe testach (czytaj: jednorożce na rowerach i tym podobne). Model ma okno kontekstu 256k, co jest solidną, choć nie najbardziej imponującą liczbą.

Najprawdopodobniej to nowy model OpenAI (GPT-5?), bo tę sztuczkę robili już wcześniej. Można go wypróbować na openrouter.ai zupełnie za darmo, ale pamiętajcie, żeby nie podawać mu żadnych prywatnych danych, bo są one zbierane i wykorzystywane do ulepszania modelu.

2025-07-28 11:01

Mon, 28 Jul 2025 11:01:28 +0200

Subagenty w Claude Code

Anthropic dodał do Claude Code możliwość tworzenia i używania wyspecjalizowanych subagentów. Subagenty korzystają z osobnego okna kontekstu, co pozwala wykonywać odrębne zadania bez zaśmiecania głównego kontekstu i ogranicza efekt context rot. Utworzone subagenty można uruchamiać ręcznie albo pozwolić Claude Code decydować, kiedy ich użyć.

Co nadaje się na dobrego subagenta? Wszystko, co ma być ekspertem w swojej dziedzinie, nie musi współdzielić kontekstu z głównym agentem, może dostać dedykowane narzędzia i da się zaprojektować do wykonywania samowystarczalnych zadań. Żeby dać przedsmak tego, co można zamienić w subagenta, oto kilka przykładów:

Subagent gitowy, na który można zrzucić rozmaite operacje związane z gitem. Ponieważ wystarczy mu lokalny stan gita i nie potrzebuje dostępu do globalnego kontekstu, dobrze sprawdzi się jako narzędzie z własnym oknem kontekstu.
Subagent do pisania książek (wiem, wiem, ale tworzę książkopodobne dokumenty w określonym stylu do samokształcenia). Dostaje wysokopoziomowy plan, zestaw materiałów i jedną czy dwie sekcje jako przykłady, a potem pracuje nad swoją sekcją niezależnie od innych subagentów.

Drugi przykład naprawdę zyskałby na możliwości uruchamiania kilku subagentów równolegle, ale wygląda na to, że proszę o zbyt wiele.

2025-07-21 14:52

Mon, 21 Jul 2025 14:52:06 +0200

Cytując Arvinda Narayanana:

Gdybyśmy porównywali możliwości AI z ludźmi pozbawionymi dostępu do narzędzi, takich jak internet, prawdopodobnie okazałoby się, że AI już teraz przewyższa ludzi w wielu, jeśli nie w większości zadań poznawczych wykonywanych przez nas w pracy. Ale to oczywiście mało pomocne porównanie i niewiele mówi o ekonomicznym wpływie AI. Bez naszych narzędzi jesteśmy niczym.

2025-07-20 18:40

Sun, 20 Jul 2025 18:40:39 +0200

Modele rozumienia wideo TwelveLabs są już dostępne w Amazon Bedrock

AWS dodaje do Amazon Bedrock natywne embeddingi wideo oraz modele rozumienia wideo. Otwiera to mnóstwo potencjalnych zastosowań, do których wcześniej sięgałem po modele Gemini. Przykładem takiego zastosowania jest system edukacyjny, który obserwuje, jak uczeń wykonuje zadanie, i udziela informacji zwrotnej na podstawie materiałów szkoleniowych.

Bedrock miał już workflow do rozumienia wideo, ale to było dokładnie to: workflow, żadne natywne modele. Możecie sobie wyobrazić, jak to wyglądało—weź wideo, potnij na klatki, wrzuć klatki do VLM, spróbuj utrzymać spójność czasową, popadnij w rozpacz, pogódź się z wydajnością systemu i jedź na urlop.

Teraz jednak mamy nie jeden, a dwa różne natywne modele wideo:

TwelveLabs Marengo, do tworzenia embeddingów wideo;
TwelveLabs Pegasus, do generowania tekstu na podstawie wideo.

Cennik modeli zależy od tego, czy wideo ma ścieżkę audio, ale trzeba się liczyć z $2.5-$3 za godzinę wideo w przypadku Marengo i $1.8 za godzinę w przypadku Pegasusa.

2025-07-20 10:26

Sun, 20 Jul 2025 10:26:39 +0200

Jedną z form context rot jest coś, co nazywam samowzmacniającą się strukturą. Kiedy akceptujesz długą odpowiedź modelu, sygnalizujesz, że taka struktura jest w porządku, więc model próbuje generować kolejne odpowiedzi w podobny sposób. Dla każdej dłuższej pracy twórczej może to być destrukcyjne.

Jedyną realną obroną jest zadbanie o to, żeby historia, którą dostaje model, nie zawierała takich odpowiedzi. Trzeba więc albo zapobiec temu wcześnie, albo naprawić to później, podając zamiast faktycznej historii podsumowanie dotychczasowej rozmowy.

2025-07-17 22:39

Thu, 17 Jul 2025 22:39:57 +0200

Przedstawiamy agenta ChatGPT: pomost między badaniem a działaniem

OpenAI wypuściło agenta, który potrafi sterować twoim komputerem. Wykorzystuje on swoje zaawansowane zdolności rozumowania do planowania i rozwiązywania zadań w aplikacjach takich jak Excel czy PowerPoint.

Podczas gdy Sam Altman „czuje AGI”, patrząc na działanie tego systemu, ja uważam je za niesamowicie toporne. Zamiast skupić się na dostarczaniu modelom natywnych narzędzi (MCP to dobry krok naprzód, choć nie bez własnych problemów), próbuje się emulować dla nich ręce i oczy, żeby modele mogły robić to samo co my, tylko wolno i niezgrabnie.

Uznałbym więc ten typ agenta za tymczasowe obejście, dopóki nie opracujemy lepszych mechanizmów komunikacji maszyna-maszyna. Później będzie on obsługiwał coraz dłuższy ogon systemów legacy, które nigdy nie doczekają się interfejsów zdatnych do użytku maszynowego.

P.S. Gemini podsunął punkt widzenia, którego nie wziąłem pod uwagę: takie systemy mogą zbierać dane potrzebne do trenowania lepszej ucieleśnionej inteligencji, czyli takiej, która potrafi działać w świecie rzeczywistym. To całkowicie słuszna uwaga i nie należy jej zostawiać bez echa.

2025-07-17 20:40

Thu, 17 Jul 2025 20:40:46 +0200

Raport AI Index 2025 Uniwersytetu Stanforda

Stanford opublikował swój doroczny raport. To dość ważna publikacja, bo oddziela spekulacje od twardych liczb. Obok rzeczy oczywistych (AI staje się lepsze, tańsze i powszechniejsze, a jakże) znajdziemy tam kilka bardzo ciekawych faktów:

Choć AI używa już prawie każda organizacja (78% w 2024 roku, choć dla większości z nich bez wątpienia sprowadza się to do pisania maili chatbotem), faktyczne rezultaty są dość skromne. Wzrost produktywności jest rzędu 10% (szczerze mówiąc, taki skok w jeden rok jest w sumie bezprecedensowy), ale wzrost przychodów w większości branż to zaledwie około 5%. Dlaczego? Bo jak w przypadku każdej technologii ogólnego przeznaczenia, pełne wykorzystanie korzyści wymagałoby całkowitej przebudowy struktur organizacyjnych i procesów. Problem w tym, że nikt nie wie, jak te nowe procesy miałyby wyglądać, i będziemy musieli uczyć się na własnych błędach.
Może to już nie nowość, ale AI daje większą dźwignię mniej doświadczonym pracownikom. Wielki wyrównywacz naszych czasów. To znów oznacza, że musimy przeformułować podejście do kompletowania zespołów. Dodałbym tylko, że pomaga to wyłącznie wtedy, gdy masz choć mgliste pojęcie o tym, co robisz, więc kandydaci na stanowiska juniorskie: odróbcie porządnie pracę domową.
Liczba incydentów związanych z AI wciąż rośnie. W 2024 roku widzimy dwukrotny wzrost względem 2023, a to jeszcze przed gorączkową adopcją agentów i MCP, którą obserwujemy w 2025. Musimy więc zacisnąć zęby i szykować się na coraz więcej wycieków danych i naruszeń integralności.

Raport zawiera znacznie więcej smaczków, ale ma prawie 500 stron, więc gorąco polecam użyć AI do wydobycia tego, co was interesuje.

2025-07-17 13:36

Thu, 17 Jul 2025 13:36:29 +0200

Voxtral

Mistral przedstawia Voxtral, rodzinę open-source’owych modeli rozpoznawania i rozumienia mowy. Najwyższy czas. Porównywalnego modelu open source nie widzieliśmy od czasów Whispera od OpenAI, a to było dość dawno temu.

Modele występują w rozmiarach 3B i 24B i wyprzedzają Whispera w większości benchmarków. Wymagają jednak mocniejszego sprzętu, bo największy wariant Whispera ma zaledwie 1,5B. To bezpośrednia konsekwencja tego, że są one zarazem zwykłymi modelami językowymi. Inna konsekwencja jest taka, że trudniej będzie je okiełznać w scenariuszu czystej transkrypcji.

Modele są dostępne na Hugging Face, a także przez API Mistrala i ich LeChat.

Czego im obecnie brakuje, to obsługi diaryzacji (rozpoznawania mówiących). Jest ona na roadmapie, ale w międzyczasie wciąż musimy używać do tego celu nieco topornego pyannote-audio.

2025-07-17 12:16

Thu, 17 Jul 2025 12:16:48 +0200

Strategic Intelligence in Large Language Models: Evidence from evolutionary Game Theory

Artykuł pokazuje, że różne modele zachowują się zupełnie inaczej, gdy umieści się je w warunkach rodem z teorii gier. Oznacza to, że testy i ewaluacje odgrywają coraz bardziej krytyczną rolę w budowaniu systemów agentowych, ponieważ aktualizacja lub podmiana bazowego modelu prowadzi do nieprzewidywalnych zmian w zachowaniu agenta.

2025-07-15 11:43

Tue, 15 Jul 2025 11:43:36 +0200

Przedstawiamy Kiro

AWS wskakuje z Kiro do pociągu agentowych IDE. Żeby odciąć się od vibe codingu, który zdążył zebrać sporo złej sławy, kładą nacisk na metodę „spec-driven development”. Oznacza to, że agent najpierw pomaga użytkownikowi stworzyć pełny dokument wymagań dla danej funkcji, następnie analizuje istniejącą bazę kodu i dopiero potem zaczyna implementować.

To podejście zdecydowanie ma sens i stanowi krok naprzód w porównaniu ze ślepym rzucaniem się w wir, jakim bywa vibe coding. To, że specyfikacje aktualizują się razem ze zmianami w kodzie, czyni je jeszcze cenniejszymi i minimalizuje problem nieaktualnej dokumentacji. Hooki potrafią automatycznie uruchamiać powtarzalne zadania agentowe, na przykład pilnowanie, żeby nowa funkcja miała wystarczające testy.

Ciekawie obserwuje się, jak różne narzędzia przyjmują różne metodologie, bo dzięki temu społeczność programistów może znajdować i rozpowszechniać techniki, które naprawdę działają.

2025-07-15 09:13

Tue, 15 Jul 2025 09:13:58 +0200

TIL: ccusage — fajne narzędzie do śledzenia i analizowania użycia Claude Code.

2025-07-14 09:57

Mon, 14 Jul 2025 09:57:18 +0200

Anthropic opublikował 4 nowe kursy w swojej akademii:

Claude Code in Action z praktycznymi poradami dotyczącymi używania agenta CLI.
Claude with the Anthropic API, kompleksowy kurs korzystania ze wszystkich obecnych możliwości API, od pojedynczego generowania tekstu po agenty.
Introduction to Model Context Protocol oraz Model Context Protocol: Advanced Topics dla zainteresowanych MCP.

Każdy kurs jest dostępny w formie wideo i tekstu oraz kończy się certyfikatem ukończenia.

2025-07-14 09:45

Mon, 14 Jul 2025 09:45:08 +0200

TIL: DBML - Database Markup Language

Język znaczników do opisywania schematu bazy danych, który może się przydać do przekazywania go narzędziom AI.

Paradoks produktywności AI

Fri, 11 Jul 2025 16:16:35 +0200

Badania pokazują, że nowoczesne agenty AI potrafią spowolnić doświadczonych programistów o ok. 19%.

2025-07-09 15:32

Wed, 09 Jul 2025 15:32:06 +0200

Bardzo ważne jest zrozumienie, że modele AI nie są deterministyczne i nie da się ich uczynić deterministycznymi bez drastycznego ograniczenia środowiska, w którym działają. Ustawianie seedów nie pomaga. Ustawienie temperatury na 0 nie pomaga. Każdy drobny błąd zaokrąglenia liczb zmiennoprzecinkowych może ostatecznie doprowadzić do zupełnie innych wyników.

Złożone modele są w istocie systemami chaotycznymi i tak należy je traktować.

2025-07-07 18:28

Mon, 07 Jul 2025 18:28:30 +0200

Agenty AI do kodowania to po prostu kolejne narzędzie w skrzynce dobrego programisty. Zaczyna on od bloku kamienia i używa tych agentów jak metaforycznego młota, żeby nadać mu z grubsza wymarzoną formę. Potem sięga po narzędzia wspomagające kodowanie, takie jak GitHub Copilot, żeby pracować precyzyjniej, niczym mniejszym młotkiem. A na końcu bierze najmniejsze dłuto i ręcznie rzeźbi najdrobniejsze detale.

Jakże zabawnie brzmią głosy, że sztuka programowania umarła, bo nie obrabiamy już bloków wyłącznie tymi małymi dłutami.

2025-07-05 08:44

Sat, 05 Jul 2025 08:44:26 +0200

Zabawna rzecz: Gemini Deep Research jest programowo zniechęcany do przedwczesnego kończenia pracy. Odkryłem to, gdy próbowałem użyć go do wyciągnięcia informacji z nieustrukturyzowanego tekstu i wypełnienia szablonu. Choć to narzędzie badawcze, ma wszystko, czego potrzeba do takiego zadania: dostęp do Google Docs, umiejętność tworzenia długich dokumentów i skrupulatny agentowy przebieg pracy. Oczywiście, jeśli chcemy tylko przebudować strukturę dokumentu, ważne jest, żeby model w ogóle nie korzystał z wyszukiwarki.

Agent wykonał robotę całkiem dobrze i szybko. Jednak kiedy już miał kończyć, dostał od programowego orkiestratora kilka ponagleń w stylu „kontynuuj badania” i zgadnijcie co? Zaczął przeszukiwać internet w poszukiwaniu brakujących informacji.

Morał z tego taki: z takimi systemami można sobie pozwolić na kreatywność, ale trzeba się liczyć z tym, że scaffolding wsadzi kij w szprychy.

2025-07-02 18:00

Wed, 02 Jul 2025 18:00:58 +0200

Po tygodniach alarmowania przez Markeya Senat nocnym głosowaniem 99-1 usuwa moratorium na regulacje AI z ustawy budżetowej

A więc moratorium na stanowe regulacje AI nie będzie. Ci, którzy rozwijają systemy AI, niech szykują się na poznawanie i wdrażanie wymogów compliance dla 50 różnych stanów. Biada nam.

2025-07-02 17:23

Wed, 02 Jul 2025 17:23:33 +0200

Cloudflare właśnie zmieniło sposób, w jaki crawlery AI skanują cały internet; podejście oparte na zgodzie toruje drogę nowemu modelowi biznesowemu

Cloudflare robi duży krok w stronę monetyzacji danych do trenowania AI. Od teraz wszystkie nowe dane hostowane na Cloudflare są domyślnie niedostępne dla crawlerów AI. Pojawiła się też nowa opcja, dzięki której strona może zwracać kod HTTP 402 („Payment required”) i pobierać opłatę za dostęp. Oczywiście Cloudflare będzie tu pośrednikiem, co daje mu znaczną kontrolę i siłę finansową.

Co więcej, może to zapoczątkować erę „ciemnego crawlingu”, która bez wątpienia doprowadzi do zabawy w kotka i myszkę przy wykrywaniu crawlerów.

2025-07-01 22:53

Tue, 01 Jul 2025 22:53:49 +0200

Kodowanie wspomagane przez AI dla zespołów, które nie mogą sobie pozwolić na vibe’y

Bardzo fajny przewodnik po efektywnym używaniu agentów AI do kodowania. Krótki, ale daje pojęcie, gdzie kopać.

2025-06-30 22:09

Mon, 30 Jun 2025 22:09:15 +0200

Szef wyszukiwarki Google ujawnia podejście „systemu gry”, gdy w trybie AI rusza wdrażanie reklam

Google będzie pokazywać reklamy w swoim trybie AI. Całkowicie spodziewany ruch ze strony giganta wyszukiwania, zważywszy że wyszukiwanie AI i inne nowe funkcje psują tradycyjny model reklamowy. Ciekawie będzie zobaczyć, jak te nowe techniki integrowania reklam będą ewoluować i jak będzie wyglądać nowe pokolenie blokerów reklam.

Szablon do kodowania wspomaganego przez AI

Sat, 28 Jun 2025 20:12:56 +0200

O instrukcjach wielokrotnego użytku dla agentów kodujących

2025-06-28 11:29

Sat, 28 Jun 2025 11:29:05 +0200

Microsoft reaktywuje elektrownię jądrową Three Mile Island szybciej, niż zakładał harmonogram

Popyt na AI wskrzesza energetykę jądrową — najwydajniejsze i bezemisyjne źródło energii, jakim obecnie dysponujemy. To dobitne przypomnienie, że nie można rozpatrywać bezpośrednich skutków w oderwaniu od ich konsekwencji drugiego i trzeciego rzędu.

2025-06-28 10:37

Sat, 28 Jun 2025 10:37:21 +0200

State of Cybersecurity Resilience 2025

Tylko jedna na dziesięć organizacji jest wystarczająco chroniona przed zagrożeniami związanymi z AI. Pośpieszne wdrażanie narzędzi opartych na AI dramatycznie zwiększa powierzchnię ataku. Kluczowe jest staranne i metodyczne opracowanie strategii bezpieczeństwa dla każdego systemu, zbieranie najlepszych praktyk i edukowanie interesariuszy.

2025-06-27 12:18

Fri, 27 Jun 2025 12:18:00 +0200

Swift Android Workgroup

Apple utworzyło grupę roboczą wspierającą tworzenie aplikacji na Androida w Swifcie. Może to być ciekawe dla firm, które już mają aplikacje na iOS i chciałyby ponownie wykorzystać logikę biznesową na Androidzie. UI i inne komponenty specyficzne dla platformy trzeba jednak nadal pisać przy użyciu natywnych frameworków i bibliotek.

2025-06-26 10:08

Thu, 26 Jun 2025 10:08:29 +0200

Twórz i udostępniaj aplikacje oparte na AI z Claude

Nowa funkcja od Anthropic, która pozwala tworzyć i udostępniać małe aplikacje oparte na AI przy użyciu artefaktów. Aplikacje te korzystają w tym celu z konta Claude użytkownika końcowego. Okazuje się, że Gemini ma taką funkcję już od jakiegoś czasu.

2025-06-25 21:52

Wed, 25 Jun 2025 21:52:26 +0200

Gemini CLI: twój open-source’owy agent AI

Teraz Google ma własnego agenta do kodowania w CLI. Ogromny kontekst, hojny darmowy plan (w większości przypadków jest po prostu darmowy) i pełny open source. Jeszcze go nie wypróbowałem, ale wygląda imponująco.

2025-06-25 15:57

Wed, 25 Jun 2025 15:57:07 +0200

Anthropic wygrywa w sprawie o trenowanie AI w procesie o prawa autorskie, ale czeka je rozprawa za pirackie książki

Bardzo ważny precedens prawny w dziedzinie praw autorskich. TL;DR: trenowanie modeli na legalnie pozyskanych materiałach objętych prawem autorskim to dozwolony użytek (fair use). Twórcy modelu muszą zadbać o to, żeby jego wyniki były „w swej istocie transformatywne”.

Nielegalne pozyskiwanie danych treningowych jest karalne tak jak dotychczas.

Claude Deep Research, czyli jak przestałem się martwić i pokochałem systemy wieloagentowe

Mon, 23 Jun 2025 20:26:29 +0200

Zazwyczaj staram się podchodzić do wszelkich nowych, błyszczących zabawek z pewną dozą sceptycyzmu. Dokładnie taki, do niedawna, był mój stosunek do systemów wieloagentowych. Powiedziałbym, że nie jest to zaskakujące, ponieważ wokół nich jest teraz mnóstwo szumu, a ja nie widziałem prawdziwie udanych przykładów takiego podejścia. Większość realizacji, które faktycznie działały, należała do jednego z następujących typów:

Systemy agentowe działające według określonego planu. Czyli LLM z narzędziami, wytrenowane do automatyzacji konkretnego procesu. Dzięki temu każdy krok można testować osobno i weryfikować jego wyniki. Opisywane są takie systemy zazwyczaj w postaci skierowanego grafu acyklicznego (DAG), czasem dynamicznego, i tworzone przy użyciu już standardowych prymitywów z frameworków typu LangChain i Griptape. Tak funkcjonowała wczesna implementacja Gemini Deep Research, w której najpierw tworzono plan wyszukiwania, następnie wykonywano samo wyszukiwanie, a na końcu składano wynik.
Rozwiązania działające w systemach ze sprzężeniem zwrotnym. Różne Claude Code, Cursor i inne agenty operujące na kodzie. Im silniejsze sprzężenie zwrotne, czyli im lepszy tooling i surowsza kontrola typów, tym większe szanse, że ostatecznie nie zepsują wam bazy kodu.
Modele trenowane za pomocą Reinforcement Learning, takie jak modele z interleaved thinking, na przykład OpenAI o3. To osobna i bardzo ciekawa rozmowa, ale nawet takie modele mają jakieś modus operandi, określone przez specyfikę ich treningu.

Tymczasem systemy wieloagentowe typu otwartego, ze względu na ich ogólną zawodność, istniały dotychczas głównie w formie proof of concept. W społeczności brakowało zrozumienia, gdzie je stosować i jak dokładnie je implementować. Aż pojawił się głęboki artykuł inżynierski od Anthropic o tym, jak tworzyli swój Deep Research. Zdefiniowano w nim wystarczająco jasne ramy do budowy takich systemów i to właśnie je dzisiaj przeanalizujemy.

2025-06-20 18:06

Fri, 20 Jun 2025 18:06:18 +0200

Radiologia entuzjastycznie przyjęła AI, a mimo to zatrudnienie w niej rośnie. Efekt „augmentacji zamiast automatyzacji” występuje pomimo tego, że — o ile się orientuję — nie zidentyfikowano żadnego „zadania”, w którym ludzcy radiolodzy wygrywają z AI. Może więc model „praca to wiązka zadań” z ekonomii pracy jest niekompletny. […]

Czy potrafisz rozbić własną pracę na zestaw dobrze zdefiniowanych zadań tak, żeby po zautomatyzowaniu każdego z nich dało się zautomatyzować całą twoją pracę? Podejrzewam, że większość ludzi odpowie „nie”. Ale kiedy myślimy o cudzej pracy, której nie rozumiemy tak dobrze jak własnej, model zadań wydaje się wiarygodny, bo nie dostrzegamy wszystkich niuansów.

— Arvind Narayanan

Niemniej moje zdanie jest takie, że choć prace nie zostaną w pełni zautomatyzowane, jeden specjalista będzie w stanie wykonać więcej roboty, więc wszystko sprowadza się do klasycznego problemu podaży i popytu. Wierzę, że w większości dziedzin popyt nadal będzie przewyższał podaż, ale nie we wszystkich. Zob. paradoks Jevonsa.

2025-06-20 10:46

Fri, 20 Jun 2025 10:46:57 +0200

Cato CTRL™ Threat Research: atak PoC wymierzony w Model Context Protocol (MCP) Atlassiana wprowadza nowe ryzyko typu „Living off AI”

Kolejna podatność serwera MCP, tym razem u Atlassiana. Umożliwia prompt injection z zewnętrznych zgłoszeń supportowych, dając atakującemu okazję do eksfiltracji danych i siania spustoszenia w wewnętrznym systemie.

2025-06-18 22:54

Wed, 18 Jun 2025 22:54:34 +0200

Tryb agenta z obsługą narzędzi MCP jest już ogólnie dostępny w Visual Studio

GitHub Copilot udostępnił w wersji ogólnodostępnej obsługę Model Context Protocol w swoim trybie agenta. Typowe problemy bezpieczeństwa z MCP potęguje opcja „Always allow” przy korzystaniu z narzędzi.

2025-06-18 22:23

Wed, 18 Jun 2025 22:23:50 +0200

Aktualizacja modelu rozliczania zużycia w GitHub Copilot

To koniec nielimitowanego dostępu do najlepszych modeli wszystkich czołowych dostawców w GitHub Copilot Chat. Teraz bez limitu dostępne są tylko GPT-4o i GPT-4.1.

To kolejny krok w stronę globalnej rewizji strategii cenowych produktów opartych na AI. Faza agresywnej promocji dobiegła końca. AI staje się kolejnym medium, jak prąd czy woda, i możemy się spodziewać podobnych strategii.

2025-06-18 12:13

Wed, 18 Jun 2025 12:13:22 +0200

https://eugeneyan.com/writing/writing-faq/

To FAQ o prowadzeniu bloga całkiem nieźle współgra z moją motywacją

2025-06-18 11:15

Wed, 18 Jun 2025 11:15:59 +0200

AI czyni humanistykę ważniejszą, ale też dużo dziwniejszą

AI to w edukacji broń obosieczna. Pomaga studentom oszukiwać przy tradycyjnych zadaniach, ale jest też potężnym nowym narzędziem, które potrafi ich naprawdę wciągnąć. Edukacja musi się zmienić, ale wierzę, że ostatecznie wyjdzie jej to na dobre.

2025-06-18 10:05

Wed, 18 Jun 2025 10:05:16 +0200

Akademicy oszukują samych siebie w kwestii AI

Jeśli chcesz krytykować AI, rób to z głową :)

2025-06-16 11:47

Mon, 16 Jun 2025 11:47:52 +0200

Jak zbudowaliśmy nasz wieloagentowy system badawczy

Świetna nowa lektura od Anthropic o tym, jak zbudowali swoje narzędzie Deep Research. Mnóstwo praktycznych porad.

2025-06-16 11:38

Mon, 16 Jun 2025 11:38:37 +0200

Jak skonfigurować szablon komunikatów commitów dla GitHub Copilota

Blogi, w które piszą ludzie

Sun, 15 Jun 2025 15:27:48 +0200

W czasach, gdy słowa AI i hype stały się praktycznie synonimami, bardzo ważne jest mądre podejście do wyboru źródeł informacji. Wokół jest teraz zbyt wiele szumu informacyjnego, a wybranie czegoś naprawdę wartościowego z morza artykułów różnych ewangelistów AI i wygenerowanych śmieci jest niezwykle trudne.

W tym wpisie opowiem, jakie materiały czytam, aby być na bieżąco z najnowszymi wydarzeniami.

Blogi

Dobry blog to sztabka złota. Stosunek sygnału do szumu dąży w nim do nieskończoności. Dlatego zacznę od listy blogów, które uważam za przydatne.

Griptape, część 2: Budujemy grafy

Thu, 05 Jun 2025 14:40:50 +0200

W poprzednim wpisie omówiłem podstawowe koncepcje frameworka AI Griptape, a teraz nadszedł czas, aby zastosować je w praktyce. Spróbujmy ich użyć do stworzenia małej aplikacji, która pomaga w prowadzeniu link-bloga na Telegramie.

Aplikacja będzie otrzymywać adres URL, pobierać jego zawartość, przepuszczać przez LLM w celu wygenerowania skróconego podsumowania, tłumaczyć to podsumowanie na kilka innych języków, składać wszystko w całość i publikować na Telegramie za pomocą bota. Ogólny przepływ pracy można zobaczyć na poniższym schemacie:

OpenAI Codex zyskał dostęp do internetu: pierwsze wrażenia

Wed, 04 Jun 2025 10:12:42 +0200

Co to w ogóle jest ten Codex?

Dobre pytanie, prawda? Chodzi o to, że do niedawna OpenAI miało model Codex, który był używany jako podstawa autouzupełniania w GitHub Copilot. Następnie OpenAI wypuściło konsolowego agenta do tworzenia oprogramowania, którego nazwali, żeby nikt nie pomylił, Codex. Wszyscy pośmiali się z umiejętności OpenAI do dobierania nazw i żyli dalej. Aż nadszedł pamiętny dzień, w którym na Twitterze pojawił się taki oto post od Sama Altmana:

Griptape: Framework do aplikacji AI, część 1: Wprowadzenie

Fri, 30 May 2025 18:10:07 +0200

No dobrze, dziś patrzymy na Griptape. Co to jest? A jest to frameworkiem do budowy aplikacji AI, oferującym czyste pythonowe API dla tych, którzy są zmęczeni poziomami abstrakcji LangChain. Proponuje prymitywy do budowy asystentów, systemów RAG i integracji z zewnętrznymi narzędziami. Szczerze mówiąc, z mojego doświadczenia, większość osób zmęczonych LangChainem przechodzi na własnoręcznie pisane wrappery wokół bibliotek niższego poziomu, takich jak OpenAI czy LiteLLM. Ale kto wie, może niepotrzebnie. Przyjrzyjmy się temu.

Przegląd Seeed Re:Camera, część 1

Thu, 29 May 2025 23:10:07 +0200

No to zaczynamy

Wpadła mi w ręce Re:Camera od Seeed. W zasadzie to małe pudełeczko (kostka o krawędzi 4 cm), opasane radiatorem. W środku dwurdzeniowy MPU na bazie RISC-V (aktualizacja: w systemie widoczny jest tylko jeden rdzeń, drugi jest najprawdopodobniej zarezerwowany dla operacji specjalnych), wiekowy mikrokontroler 8051, sensor kamery od OmniVision, diody do podświetlenia, Wi-Fi, BT, no i różne peryferia. Pamięci RAM jest malutko, zaledwie 256 megabajtów, więc postawienie Greengrass będzie problematyczne. Można podłączyć Ethernet przez specjalny kabelek-przejściówkę, który ledwo się trzyma, ale do developmentu nie ma to sensu, bo kamera udostępnia sieć po USB typu C i prościej tak pracować. Jeśli brakuje pamięci (a urządzenie jest dostępne w wariantach z 8 GB i 64 GB wbudowanej pamięci), można wsadzić kartę MicroSD. Pudełko można też przyczepić do czegoś metalowego, bo z jednej strony ma magnesiki.