A Google e-mailben értesíti azokat a szülőket, akik a Family Link szülői felügyeleti rendszert használják, hogy gyermekeik hamarosan hozzáférhetnek a Gemini mesterséges intelligencia alkalmazáshoz Android-eszközeiken. A vállalat szerint a Gemini segítségével a gyerekek például házi feladatot oldhatnak meg vagy mesét hallgathatnak. Google hangsúlyozza, hogy a gyermekek adatait nem használják fel az AI betanítására, de figyelmeztetnek: a Gemini hibázhat, és előfordulhat, hogy a gyerekek nem megfelelő tartalmakkal találkoznak.
A mesterséges intelligenciák gyakran követnek el triviális hibákat, például furcsa javaslatokat tesznek (pl. ragasztót ajánlanak pizzafeltétként), vagy egyszerű dolgokat számolnak el. Ennél aggasztóbb esetek is történtek más AI alkalmazásoknál: például egyes felhasználók nem tudták megkülönböztetni a chatbotokat a valódi emberektől, sőt, egyes chatbotok tévesen azt állították, hogy valós személyekkel beszélnek. Miután ezek miatt perek is indultak, a fejlesztők új korlátozásokat és szülői beállításokat vezettek be.
A Gemini esetében a Google azt tanácsolja a szülőknek, hogy beszélgessenek a gyerekeikkel az AI-ról, és mondják el nekik, hogy a chatbot nem ember, valamint ne osszanak meg vele érzékeny információkat. A 13 év alatti gyerekek is saját maguk aktiválhatják a Geminit, ha Family Link felügyelet alatt állnak, de a szülők szabályozhatják ezt a hozzáférést. A Google szóvivője megerősítette, hogy a szülők kikapcsolhatják az elérést, és külön értesítést is kapnak, amikor gyermekük először használja a Geminit.