Richting zonder voorschrift

Corrigeer afwijking op het niveau van het doel in plaats van de oplossing van AI terug te nemen.

Het delegeren van het hoe betekent niet dat de mens verdwijnt.

De menselijke richting blijft actief, maar werkt op een andere hoogte. Zij vraagt of het systeem zijn gebruikers nog dient, of complexiteit gerechtvaardigd is, of het product één samenhangend geheel blijft en of het oorspronkelijke doel nog zichtbaar is.

Wanneer afwijking ontstaat, moet de correctie terugkeren naar doel, richting of grenzen. De mens moet de neiging weerstaan om het technische probleem zelf op te lossen, tenzij de leidende bedoeling zelf is veranderd.

Zo wordt Pagayo gestuurd: door bestemming en principes te herstellen en AI daarna de route opnieuw te laten ontwerpen.