Das Betriebssystem (Operating System, OS) eines Mobiltelefons ist eine Steuerungssoftware, welche die integrierte Hardware des Handys nutzbar macht. Dadurch erhält der Prozessor einen Zugriff auf den Arbeitsspeicher, die Tastatur und das Mikrofon zur Eingabe von Text und Sprache, das Display und den Lautsprecher zur Ausgabe, die Elektronik-Komponenten zum Senden und Empfangen per Mobilfunk oder den Rüttelmotor zum Vibrationsalarm.
Über das Handy-Betriebssystem werden die Funktionen eines Mobiltelefons zum Verwalten von Adressen oder Terminen, das Multitasking und die Software von Drittanbietern gesteuert. Einfache Mobiltelefone besitzen proprietäre Betriebssysteme mit starrer Speicherverwaltung und einem kleinen Angebot an Zusatz-Software. Bei den Applikationen handelt es sich oft um MIDlets der Java Platform Micro Edition für ein relativ langsames Bytecode- Interpreter- Programm mit begrenztem Speicher. Ein eigener Java-Prozessor führt die Programme aus, doch lässt sich die Interoperabilität einer Java-ME-Anwendung zu Mobiltelefonen anderer Hersteller mit Java-ME nicht gewährleisten.
Bei einem Smartphone regelt das Betriebssystem auch, wie das Gerät freigeschaltet wird und wo die Adressen, Termine, E-Mails und Multimedia- Dateien des Anwenders gespeichert und synchronisiert werden. Das Betriebssystem stellt auch den Smartphone-Browser, Multimedia-Player, Digitalkamera und Videokamera, GPS-Funktionen sowie die Bluetooth- und WLAN- Kommunikation bereit.
Einzelne Smartphone-Betriebssysteme lassen sich auf Mobiltelefonen mehrerer Hersteller betreiben, die sich dadurch in der Bedienerführung sehr ähneln. Dazu gehören:
- Symbian von Symbian Ltd., einer Tochtergesellschaft von Nokia,
- Windows Mobile von Microsoft,
- Android von Google und weiteren Mitgliedern der Open Handset Alliance und
- Brew MP von Qualcomm.
- Moblin von Intel für Smartphones und andere Mobilgeräte mit Internetzugang.
- MeeGo, das aus Maemo von Nokia und Moblin von Intel entstand und von Jolla und Tizen abgelöst wurde.
- Tizen von der Linux Foundation.
- Firefox OS von Mozilla.
Andere Smartphone-Betriebssysteme eignen sich nur für die Mobiltelefone eines einzelnen Herstellers. Dazu gehören:
Blackberry OS und BlackBerry 10 des Blackberry-Herstellers RIM, iPhone OS bzw. iOS 4 für das iPhone von Apple, webOS von Palm, Nova OS als Nachfolgebetriebssystem von PalmOS, Maemo von Nokia und Bada von Samsung. Die wachsende Zahl der Smartphone-Betriebssysteme verursacht bei unabhängigen Software-Entwicklern steigende Entwicklungskosten, so dass Applikationen aus wirtschaftlichen Gründen nur für ausgewählte Plattformen angeboten werden können.