Last updated by at .

AI optimerade vinstmaskiner

Var har jag sett detta tidigare? I alla fall, vilka delar i detta är bekant?

Två bra frågor när vi hör något nytt, ställs inför något okänt och måste hantera förändring. Sällan är allting nytt och 100% jobbigt. Vi känner ofta igen delar. Inget nytt under solen liksom. Fler närbesläktade frågor förfinar det hela, men det är ett annat ämne.


Läste NY Times artikel, i en serie av många, om sökandet efter grundläggande regler för säkerställandet av viss etik inom AI nyligen. Gruppen kom fram till en ganska stor uppsättning. Exempelvis, och föga förvånande, transparens kring företags användande av AI, säkerställandet av diverse utvecklar-team, industrisamarbete kring regler och regelefterlevnad m.fl.


Förhoppningsvis kan en ganska liberal hållning till AI och etik funka – vinstdrivande företag ska sätta egna “checks and balances” på plats. Men kan vi leva med “förhoppningsvis”? I en annan artikel utrycker Brad Smith, Microsoft’s president and chief legal officer “We don’t want to see a commercial race to the bottom…law is needed”.

Var känner vi igen detta ifrån?


Lyssnade nyligen på en AI-podcast (det blir ett par) där Stuart Russell i en diskussion om AI och framtiden krasst konstaterar att (fritt översatt från engelska):

AI-system redan tagit över i världen. De kallas företag (corporations), vinstmaskiner som optimerats just mot vinst.

Good point. De är väldigt lika logiken i AI-algoritmer och utrycker lite av de faror de smarta människorna fnular på för närvarande. Vad händer om de optimeras på ett sätt så att de frikopplas från “vett” och “kontextuellt hänsynstagande” (läs: miljö, världen, välmående på lång sikt).


Intressant liknelse. Inte perfekt. Intressant.

the fallacy of thinking about doing

Theory and knowledge isn’t real. That’s why we always look for empirical evidence. It’s also why you would never qualify as a car mechanic having only read about engines. You need to get a feel for things. You need to practice doing. Doing the actual behavior we’re studying, trying to fix or do more of. Don’t really know what to think about this:

When I ask him how he knows what he knows about these new platforms, he says, “I’m not active on social media; I am a student of it,” and waves an arm at a wall of his office covered in dozens of color printouts of pie charts, tables, line graphs full of digital metrics—proprietary information that he asked remain off the record. “I spend a lot of time thinking about the trends that are reshaping our industry. I spend a lot of time talking to people on the front line of those trends,” he tells me, “and a big part of my job is making sense of that.”

– Arthur Gregg Sulzberger of NY Times, in Wired

Why cut off some of your senses? Thinking about doing things does not provide sufficient understanding of the doings studied. The most bewildering part of this is why on earth, given there’s no cost associated with it (only learnings and benefits), would you not throw yourself out there to feel what it is we’re dealing with? Beats me.