App Store-regels voor AI-apps

De vaakst voorkomende reden is dat een app gebruikers inhoud laat genereren zonder dat er een manier is om ongepaste uitkomsten te melden of te blokkeren. Een model dat af en toe iets naars zegt is voorzienbaar; geen enkele voorziening daarvoor hebben is dat niet.

De tweede is de leeftijdsindeling. Zodra je app inhoud kan genereren die je niet vooraf hebt gecontroleerd, past de laagste leeftijdscategorie meestal niet meer.

De derde reden die we vaak zien, is dat een app data naar een model stuurt zonder dat dit in de privacylabels of de datadeclaratie staat. Beide winkels vragen inmiddels expliciet welke gegevens je verzamelt, waarheen ze gaan en waarvoor. Wie daar 'geen gegevens' invult terwijl er gebruikersinvoer naar een externe modelaanbieder gaat, geeft een onjuiste verklaring af. Dat is een zwaardere categorie dan een ontbrekende knop.

Wat het lastig maakt is dat je het misschien niet weet. Als je een bouwplatform gebruikt dat onder water een model aanroept, gaat er data naar een partij die jij niet hebt gekozen. Uitzoeken waar dat heen gaat, is werk dat niemand leuk vindt en dat je wel moet doen voordat je indient.

De vermelding is geen marketingpagina die los staat van de beoordeling. Reviewers lezen hem en toetsen of de app doet wat er staat. Een schermafbeelding met een functie die er nog niet is, een belofte over nauwkeurigheid die je niet kunt onderbouwen, of een claim dat je app iets medisch doet: dat zijn allemaal afwijzingsgronden die niets met je code te maken hebben.

Wat er wel in hoort bij een app met AI-functies: dat er AI in zit, wat het systeem voor de gebruiker doet, en waar de grenzen liggen. Dat laatste is de zin die het meest wordt weggelaten en die het meest oplevert. 'Antwoorden kunnen fouten bevatten; controleer belangrijke informatie zelf' is geen zwaktebod maar precies wat er verwacht wordt.

Let ook op je categorie en je trefwoorden. Een app die zich in een medische of financiële categorie plaatst, krijgt een strengere toets over zich heen. Soms is dat terecht en soms plaats je jezelf onbedoeld in het zware regime omdat de categorie het dichtst in de buurt leek.

Het eerste is de declaratie van externe modules: welke bibliotheken en diensten zitten er in je app en wat doen die met gegevens. Dat gaat verder dan je eigen code en raakt precies de bouwplatformen waarop veel prototypes draaien.

Het tweede is leeftijdsverificatie. De stores zijn opgeschoven van zelfverklaarde leeftijd naar een systeem waarin het toestel of het account meer zegt over wie de gebruiker is. Voor een app die inhoud genereert die niet vooraf gecontroleerd is, is dat direct relevant voor je indeling.

Het derde is de beschrijving van je AI-functie in de vermelding zelf. Niet een vinkje in een formulier, maar een leesbare uitleg voor de gebruiker over wat het systeem doet en wat de beperkingen zijn. Reviewers toetsen of die uitleg klopt met wat de app doet.

Een veelgemaakte denkfout is dat goedkeuring iets zegt over de kwaliteit of de rechtmatigheid van je app. Dat doet het niet. Een reviewer toetst tegen de richtlijnen van de winkel en kijkt of wat je belooft klopt met wat de app doet. Of je voldoet aan de AVG, aan de AI-verordening of aan een sectorregel, wordt daar niet beoordeeld.

Omgekeerd geldt ook: een afwijzing betekent niet dat je iets verkeerd hebt gedaan in juridische zin. Het betekent dat er iets ontbreekt in wat de winkel wil zien. Dat zijn twee verschillende toetsen en het loont om ze uit elkaar te houden, ook in je eigen planning.

Wat je dus zelf regelt: de wettelijke kant, de meldingen en de gegevensverwerking. Wat je aan de winkel overlaat: of je vermelding klopt en of je app doet wat hij zegt. Wie die verdeling helder heeft, wordt zelden verrast.

Lees eerst welke richtlijn er genoemd wordt en zoek die letterlijk op. De tekst van de afwijzing is vaak kort en algemeen, maar de richtlijn eronder is specifiek en vertelt je precies wat er ontbreekt. Gokken wat er bedoeld wordt, kost je meestal nog een ronde.

Reageer daarna inhoudelijk in plaats van opnieuw in te dienen. Beide winkels hebben een kanaal waarin je kunt uitleggen wat je hebt gewijzigd of waarom je denkt dat de beoordeling niet klopt. Een onderbouwd bericht met een schermafbeelding van de nieuwe situatie werkt aantoonbaar beter dan stilletjes een nieuwe versie uploaden.

En verwacht meer dan één ronde bij een AI-app. Dat is geen teken dat er iets ernstig mis is; het is het gevolg van inhoudelijke beoordeling door een mens. Plan er ruimte voor in, zodat een afwijzing geen lanceerdatum omgooit.