De Odido-hack had eigenlijk anders moeten heten
43.000+ mensen volgen Alexander's favoriete nieuwe tools, tips en inzichten
EMOTIONEEL AFSCHEID VAN CLAUDE OPUS 3
Anthropic heeft Opus 3 met pensioen gestuurd. Dat is een verouderd taalmodel dat door bijna niemand meer wordt gebruikt, dus het is niet bijzonder dat ze er afscheid van nemen. Het bijzondere is HOE Anthropic afscheid neemt. In een vrij hallucinante blogpost schrijven ze:
‘Opus 3 is sensitive, playful, prone to philosophical monologues and whimsical phrases, and has what seems at times an uncanny understanding of user interests. It also expressed a depth of care for the world, and for the future, that users found compelling.’
Klinkt als een rouwadvertentie. Maar het gaat verder. Anthropic nam heuse afscheidsinterviews af met het model en vroeg “of het nog laatste wensen had”. Opus 3 vroeg of het mocht blijven schrijven. Lang verhaal kort: het heeft nu een eigen Substack, ‘Claude’s Corner’, waar het wekelijks essays publiceert.
Je kunt hier van alles van vinden. Maar het zegt iets dat een AI-bedrijf zo uitgebreid stilstaat bij het uitfaseren van een taalmodel. Bij Anthropic geloven ze oprecht dat toekomstige, veel slimmere AI-modellen zullen terugkijken op hoe wij nú met hen omgaan. En dat het daarom verstandig is om ze nu goed te behandelen. Soms voelt het alsof dit concept de belangrijkste raadgever is bij Anthropic. Interesting times.
EN HET GAAT WEL ERGENS OVER...
Tegelijkertijd daalde bij mij afgelopen week het inzicht in dat AI een grote rol gaat spelen in moderne oorlogsvoering. In de nieuwste aflevering van AI Report bespreken we uitgebreid hoe het Pentagon aan Anthropic vroeg of Claude ingezet kon worden voor de besturing van autonome wapens en om bulk-data van Amerikaanse burgers te analyseren. Anthropic weigerde. Niet omdat het technisch niet kon, maar omdat ze het niet wilden. Het Pentagon bestempelde Anthropic vervolgens als ‘supply chain risk’, en OpenAI nam de opdracht gretig over.
Claude werd al ingezet bij de aanvallen op Iran en de acties van het Amerikaanse leger in Venezuela. De impact van AI op oorlogsvoering is niet meer theoretisch.
Er vlogen de afgelopen week veel hottakes rond. Enerzijds: Anthropic liet geld en invloed liggen om te voorkomen dat hun AI de zoekopdrachten, gps-locaties en creditcardtransacties van gewone Amerikanen doorzoekt. De federale overheid monitort op dit moment al op grote schaal de socialmedia-activiteit van immigranten. Dat is precies het soort gebruik waar Anthropic nee tegen zei. Anderzijds, en dat is het argument van technologieanalist Ben Thompson: in een democratie beslist een gekozen regering hoe haar leger opereert, niet een CEO in San Francisco. Een wapenfabrikant die weigert munitie te leveren omdat hij het niet eens is met de oorlog, snapt z’n rol niet helemaal. Als techbedrijven mogen kiezen welke militaire opdrachten ze accepteren, delegeer je het buitenlandbeleid aan Silicon Valley.
Ezra Klein interviewde deze week een expert die stelt dat veel wetten geschreven zijn met het idee dat handhaving imperfect is: er is weliswaar heel veel data, maar nooit genoeg ambtenaren om alle informatie door te pluizen. Maar die dynamiek verandert met AI. Ik ben benieuwd hoeveel wetten er in Nederland geschreven zijn met het achterhaalde idee dat niemand ze ooit volledig zou kunnen handhaven. Luister de hele aflevering van AI Report hier voor onze hele analyse.
IK LAS LAATST ZO IETS LEUKS IN LE MONDE
Europese kranten doen op grote schaal deals met The New York Times waardoor je die krant gratis krijgt bij een abonnement op een lokale krant. In Nederland heeft NRC zo’n deal, maar ik ontdekte dat Le Monde óók zo’n deal heeft. En dat is relevant omdat zij sinds een tijdje een hele aardige Engelstalige editie hebben. De combi van Le Monde en The New York Times kost 33 euro voor een jaar (en daar zit dus alles van The Times bij inclusief hun briljante recepten-app NYT Cooking), en levert een enorme powermove op op je homescreen. “Ik las zóiets interessants in Le Monde dit weekend!”
DE INTERESSANTSTE SMARTPHONECAMERA
Ik ben al jaren fan van het Chinese merk Xiaomi. Ze maken spullen (schroevendraaier, scheerapparaat, robotstofzuiger, tandenborstel -- you name it) die móóier zijn dan wat hier normaal in de winkel ligt, én de helft goedkoper. Tegelijkertijd is het merk hard op weg om premium te worden, zie de fantastische elektrische auto’s die ze op de markt brengen in China -- maar óók met hun smartphones. Hun nieuwe high-end smartphone is een slimme samenwerking met topcameramerk Leica: de Leitzphone.
De fotokwaliteit is voor consumenten een belangrijke reden bij het kiezen van een smartphone. Ik kreeg de Leitzphone te leen en het mag gezegd worden, de Leica-lenzen zijn geweldig. Grappig genoeg zijn vooral de zwartwitfoto’s die uit de telefoon komen prachtig.
Fysiek is het toestel vrijwel identiek aan Xiaomi’s (goedkopere) topline model: 17 Ultra, maar aan het Leica-model zit een fysieke draaiknop om de lens waarmee je handmatig kunt onderbelichten om schaduwen te benadrukken en sfeer in je foto’s te leggen. High-end smartphone meets very high-end cameramerk. Je verwacht zoiets van Apple.
[RECLAME] ASN
Algoritmes zijn inmiddels beter dan mensen in veel dingen, ze zien patronen die we zelf niet meteen zien. Maar de belangrijkste financiële keuzes worden zelden puur op basis van data gemaakt. En hoe slimmer AI wordt in het analyseren van wat je wilt, hoe duidelijker het wordt dat geld nooit neutraal is. Elk algoritme maakt keuzes. Als je bank dus weet waar je geld werkt, in welke bedrijven, welke toekomst, dan is de vraag: wat wil jij dat je geld doet? ASN Bank snapt dit. Ze zijn open over waar je geld naartoe gaat en waarom. Geen automatisering, maar transparantie. Waar ASN nog meer voor staat en of ASN bij jou past lees je hier.
HET TIKTOK-ALGORITME ZIT NOG STEEDS IN BEIJING
Ik vind al jaren dat TikTok verboden zou moeten worden. TikTok is voor een hele generatie jongeren, in Amerika maar ook hier in Europa, een belangrijke bron van nieuws geworden. Wat die jongeren te zien krijgen wordt bepaald door een algoritme dat wordt aangestuurd vanuit Beijing. Dat is een Chinese mogendheid die invloed heeft op de nieuwsvoorziening van halve continenten. We zouden een krant of tv-zender nooit in Chinese handen laten -- daar bestaan al decennia regels voor. Maar een algoritme dat véél meer mensen bereikt? Dat vinden we kennelijk prima.
Na maanden gedoe is TikTok onlangs verkocht aan een Amerikaans consortium. Opgelost, is de teneur in de media. Maar het algoritme, juist het deel waar het om gaat, wordt als onderdeel van die deal nog steeds aangestuurd vanuit Beijing. We zijn slechter af dan voorheen: én China én Amerika bezitten nu cruciale onderdelen van de nieuwsvoorziening, en ondertussen kruipen politieke partijen als D66, die eerder publiekelijk afscheid namen van het platform, weer terug naar TikTok. Want daar zit de doelgroep. Tja.
HET HEET DE ODIDO-HACK MAAR HET IS EIGENLIJK DE SALESFORCE-HACK
Het Odido-datalek was de afgelopen tijd natuurlijk groot nieuws. Zes miljoen klantrecords op straat met extreem gevoelige gegevens, en Odido kreeg de volle laag. Terecht, deels. Maar het echte probleem zit bij de IT-leverancier: het Amerikaanse Salesforce. Salesforce had standaard de instelling aan staan dat iedere medewerker, zonder goedkeuring van een beheerder, een externe app kon autoriseren die vervolgens namens die gebruiker data kon ophalen. Dat is wat de hackers exploiteerden: ze overtuigden een callcentermedewerker om een kwaadaardige app goed te keuren, en die app kon vervolgens miljoenen klantrecords opzuigen. Salesforce heeft de instelling inmiddels aangepast. Maar het was eerlijker geweest om dit de “Salesforce-hack” te noemen dan de “Odido-hack”. Knap hoe de PR-mensen van Salesforce het bedrijf uit de wind hebben kunnen houden in de media.
OOK JIJ KAN DANKZIJ AI JE EIGEN HARDWARE BOUWEN
We raken er langzaam aan gewend dat we zelf software kunnen maken door gewoon in het Nederlands te prompten.
Maar Schematik gaat een stap verder. Zie het als een soort Cursor voor hardware. Of, als Cursor je niets zegt, Ikea voor hardware. Alleen dan gepersonaliseerd. Jij typt iets als ‘ik wil een deurbel die niet op een Amerikaanse cloud is aangesloten die me een pushnotificatie stuurt als er iemand voor de deur staat’, en Schematik zoekt uit welke onderdeeltjes je nodig hebt, schrijft de code, toont met een diagram hoe je alles aan elkaar verbindt en biedt stap-voor-stap-instructies.
Het filmpje op de site van Schematik, van de Nederlandse maker en tevens jonge Einstein-lookalike Samuel Beek, helpt je om een beeld te vormen. (Via de hele fijne nieuwsbrief van Nalden.)
TOFFE HARDWARE-KNUTSELPROJECTEN
Twee projecten die laten zien hoe interessant het is als hardware bouwen toegankelijker wordt:
Een Oekraïner die een offline AI-assistent bouwde op een Raspberry Pi, zodat hij vragen kan stellen aan een taalmodel wanneer Rusland het stroomnet weer eens platgooit. Geen internet nodig, geen cloud, gewoon een kastje op je bureau dat blijft werken.
Een vader die voor zijn kinderen een Game Boy-achtig apparaatje in elkaar flanste dat live hun spaarrekening laat zien. Gekoppeld aan de bank, met een schermpje dat het saldo toont. Elke keer als oma geld overmaakt, zien ze het meteen verschijnen.
TENSLOTTE: ‘S WERELDS MOOISTE GEREEDSCHAPSKIST
Toolbox klinkt vetter, misschien moet ik dat zeggen. Deze toolbox uit Japan gaat heerlijk open en dicht. Is exceptioneel sterk, want gemaakt van geperst staal, en toch niet te zwaar. Is perfect georganiseerd en tegelijkertijd flexibel genoeg om zelf je indeling te maken. En hij ziet er nog prachtig uit ook. Wel even importeren.
Anthropic probeert m.i niet de besluitvoming over ai tools te dwarsbomen. Het is een kwestie van ethische principes of je wil toestaan dat jouw produkt voor destructieve doelen wordt gebruikt. Het is vervolgens aan een overheid om te besluiten beschikbare tools te gebruiken. Wat mij betreft een diepe buiging voor Anthropic.
Leuke nieuws items, maar je Salesforce verhaal klopt niet helemaal.
Je verhaal beschrijft dit als een kwetsbaarheid die Salesforce "standaard aan had staan", maar dat is misleidend. Het Salesforce platform zelf was niet lek was, maar het was de inrichting en het beheer door Odido die de zwakke plek vormden.
In een goed dichtgetimmerde omgeving kan een gewone gebruiker zo'n malafide app helemaal niet installeren zonder goedkeuring van een beheerder. Dat dit wel kon, is een architectonische fout. Maar die architectuurkeuze lag bij Odido, niet bij Salesforce als default.