Die Ortskrankenkassen wurden im Jahr 1884 unmittelbar nach der Einführung der gesetzlichen Krankenversicherung im Jahr 1883 durch Reichskanzler Otto von Bismarck gegründet. Anfangs gab es 8.200 von ihnen, denen die Arbeiter zugewiesen wurden, wenn sie nicht anderweitig zu versichern waren. Ab 1892 konnten auch Angestellte und Heimarbeiter neben gewerblichen Arbeitern Mitglied werden. Im Lauf der Zeit wurden die AOKs auf Kreisebene organisiert und auch im Gefolge der Kreisverwaltungsreformen reduziert. Das Gesundheitsstrukturgesetz von 1992 hat mit der Einführung der freien Kassenwahl der Versicherten und des freien Wettbewerbs unter den Krankenkassen zu einer weiteren Fusionswelle unter den damals knapp 300 AOKs auf nunmehr 15 geführt. Seit dem Ende der Primärzuständigkeit im Jahr 1996 ist auch die Schließung von Ortskrankenkassen bei mangelnder Leistungsfähigkeit durch die Aufsichtsbehörde möglich.

In Kooperation mit der Firma SAP entwickelt die AOK eine Branchensoftware, die den gesamten Bereich der gesetzlichen Krankenversicherung abdeckt. Hierfür wurde die AOK Systems GmbH gegründet, die das Programm entwickelt und bei den Kassen implementiert. Das ursprünglich SAM genannte Projekt wurde im Juni 2005 zum Programm oscare und wird seither unter diesem Markennamen vermarktet. Es wurde auch bereits an andere gesetzliche Krankenkassen und auch Ersatzkassen (z.B. Barmer Ersatzkasse und die Knappschaft) verkauft und wird dort eingesetzt. Die Auftraggeber verfolgen damit das Ziel eine Standardsoftware im Bereich der gesetzlichen Krankenversicherung zu entwickeln, in der sich die ständig wechselnden gesetzlichen Anforderungen realisieren lassen.

Zur weiteren Entwicklung der IT und zur Nutzung von Synergie-Effekten haben sich in der gesetzlichen Krankenversicherung einige Kassen zu einer Arbeitsgemeinschaft, namens gkv-informatik GbR zusammengeschlossen. Die Kassen sind die AOKs aus Berlin, Brandenburg, Mecklenburg-Vorpommern, Rheinland/Hamburg, Sachsen-Anhalt, Schleswig-Holstein, Westfalen-Lippe sowie die Barmer Ersatzkasse. Zusammen decken sie rund 23% der in Deutschland gesetzlich versicherten Personen ab. Seit Oktober 2006 betreibt die gkv informatik (GKVI) ein gemeinsames Rechenzentrum in Wuppertal-Lichtscheid.

Zum 1. Januar 2008 hat die AOK Plus, also die AOK für Sachsen und Thüringen, zusammen mit der AOK Bayern die gesamte IT in die Firma kubus IT ausgelagert und ein weiteres, gemeinsam genutztes Rechenzentrum in Bayreuth errichtet.