Protokolle sind jene Softwarepakete, die die Kommunikation zwischen den Knoten eines Netzwerks bewerkstelligen. Sie definieren sowohl der Ablauf der einzelnen Kommunikationsschritte als auch deren Syntax und Semantik. Sie arbeiten auf einem oder auf benachbarten Layern des OSI-Modells und decken grundsätzlich einen ganz bestimmten Funktionsumfang ab. Es gibt etwa Netzwerkprotokolle für die Vermittlungsschicht, Transportprotokolle für die Transportschicht, Sicherheitsprotokolle, Routingprotokolle oder die Anwendungsprotokolle der Anwendungsschicht, die man gelegentlich auch Dienste nennt. Weil es ursprünglich nicht genau genormte Schnittstellendefinitionen gab, wurden von den einzelnen Herstellern Protokollfamilien entwickelt. Zu den bekanntesten zählen das Terminalprotokoll SNA von IBM, das DECnet der Digital Equipment Corporation, NetWare - eines der ersten Protokolle überhaupt - von Novell oder der LAN-Manager von Microsoft für DOS und OS/2. An herstellerübergreifenden Protokollstandards gibt es die Gruppe der XNS-Protokolle von Rank Xerox, die hauptsächlich in der Bürokommunikation eingesetzt wurden und dem auch das IPX-Protokoll von Novell folgt. Zu den herstellerübergreifenden Protokollen gehört auch das TCP/IP-Protokoll, das in den 70er Jahren von der DARPA (Research Project Agency) des amerikanischen Departement of Defense (DoD) für das ARPANET (advanced research projects agency network) entwickelt wurde, das die Knotenrechner von vier US-Universitäten (Utah, Stanford Research Institute, Santa Barbara und Los Angeles) über Standleitungen verband.

Die Protokollfamilie TCP/IP beinhaltet eine ganze Reihe von Protokollen über alle OSI-Layer, von denen das TCP-Protokoll (transmission control protocol) und das IP-Protokoll (internet protokoll) namensgebend sind. Die Spezifikationen werden vom amerikanischen Verteidigungsministerium verwaltet und überdies gibt es sogenannte RFC's (Requests For Comments), die Normen der Protokollfamilie. Es hat sich zu einem weltweiten Quasi-Standard entwickelt und es wird wohl in naher Zukunft kein Netzwerkrechner ohne dieses Protokoll auskommen.

Eine wesentliche Eigenschaft der TCP/IP-Protokollfamilie ist, dass es mit weniger Layern als im OSI-Modell festgelegt, auskommt. Das liegt einerseits daran, dass die unteren beiden OSI-Layer mit einheitlichen Standards versehen sind, die die eigentliche Hardware verbergen und anderseits die Protokolle der OSI-Layer 5-7 direkt auf die Transportschicht zugreifen. Die folgende Graphik vergleicht die Modelle und gibt einen Überblick über die wichtigsten Protokolle:

Ehe die Funktionsweise der Protokolle im Einzelnen besprochen werden kann, soll noch kurz der das Zusammenwirken der verschiedenen Modellebenen und der grundsätzliche Aufbau einer Nachricht exemplarisch erläutert werden. Eine auf einem Sender erstellte Nachricht ist grundsätzlich auf dem application-Layer angesiedelt.

Sie wird empfängerseitig einem Protokoll der host-to-host-Schicht übergeben, das sie quasi verpackt, das heißt mit einem Header versieht und einem Protokoll der internet-Schicht übergibt. Eine Message ist entstanden:

Wieder mit einem Header versehen, wird nun das Paket (Datagramm) einem Protokoll der network-access-Schicht übergeben,

wo nach neuerlichem Verpacken ein Frame entsteht,

das auf den Weg geschickt werden kann, weil es aufgrund seiner Header den Weg zum Empfänger findet. Beim Empfänger angekommen wird in entsprechend umgekehrter Reihenfolge ausgepackt. Dieses paketvermittelnde Verfahren ist mit dem Verfahren der Brief- und Paketpost insoweit vergleichbar, als dort ebenfalls Verpackungskategorien wie Briefumschlag, Bündel, Postsack oder Postwaggon zur Weiterleitung verwendet werden. Allerdings wird in elektronischen Netzen niemals ein Paket aus mehreren gleichadressierten Nachrichten geschnürt, sondern im Gegenteil lange Nachrichten sogar gesplittet.