In der vorliegenden Arbeit studiert Verf. hauptsächlich das Verhalten (im Kleinen und im Großen) der Folge der Iterierten einer rationalen Funktion \(R(z)\) der komplexen Variabeln \(z\), d. h. der Folge \(R_1(z) = R(z), R_2(z) = R(R(z)), \dots, R_n(z) = R(R_{n-1}(z)) = R_{n-1}(R(z)), \dots.\) Die hier auftretenden Fragen hängen nahe mit der Theorie der Funktionalgleichungen, insbesondere der Schröderschen und der Abelschen Funktionalgleichung und verwandter Gleichungen zusammen. Die Arbeit hat in Problemstellungen, Methoden und Ergebnissen mit den etwas früheren Untersuchungen von G. Julia (1917–1918) (vgl. JFM 46.0520.01; JFM 46.0520.02; JFM 46.0520.03; JFM 46.0520.04; JFM 46.0520.05; JFM 46.0520.06) vieles gemein, doch vermag Verf. noch weitergehende Resultate zu gewinnen.
Zunächst sei die Erklärung einiger Bezeichnungen vorausgeschickt. Ist \(z_n = R_n(z_0),\) so heißt \(z_n\) Nachfolger \(n\)-ter Ordnung von \(z_0,\) umgekehrt heißt \(z_0.\) Vorgänger \(n\)-ter Ordnung von \(z_n.\) Ist \(\zeta = R_n(\zeta),\) so ist auch \(R(\zeta) = R_n(R(\zeta)),\) d. h. der Nachfolger eines Fixpunktes ist wieder ein Fixpunkt. Ein Fixpunkt \(\zeta\) von \(R_n(z)\) heißt anziehend, abstoßend oder indifferent, je nachdem \(| R_n'(\zeta)| < 1, > 1\) oder =1 ist. Er bildet mit seinen \(n -1\) Nachfolgern einen \(n\)-fachen Zyklus, da ja \(\zeta_n=\zeta \) wird. \(R_n'(\zeta)\) heißt der Multiplikator; alle Punkte eines Zyklus haben den gleichen Multiplikator.
Verf. teilt seine Arbeit in 7 Kapitel.
Im ersten Kapitel untersucht er die Iteration der rationalen Funktionen mit rein algebraischen Mitteln. Er erhält den Satz, daßes stets unendlich viele Zyklen gibt, deren Multiplikator entweder gleich \(+1\) oder dem absoluten Betrage nach größer als 1 ist.
Kap. II behandelt die Iteration in der Umgebung eines Fixpunktes. Dabei wird besonders eingehend der interessante, zuerst ausführlich von L. Leau [Toulouse Ann. 11, E25–E110 (1897; JFM 28.0346.02)] untersuchte Fall eines Fixpunktes behandelt, dessen Multiplikator eine Einheitswurzel ist. Diese Untersuchungen zeigen die Existenz einer Lösung der Abelschen Funktionalgleichung; die Eigenschaften dieser Lösung werden studiert.
Kap. III handelt von den rationalen Funktionen, die einen Kreis in sich überführen. Die hier durchgeführten Untersuchungen hat Verf. z. T. bereits 1917 in den Comptes rendus veröffentlicht [C. R. 164, 806–808 (1917; JFM 46.0519.02)].
Die Ergebnisse des dritten Kapitels können auch als Folgerungen aus den allgemeinen Resultaten des Kap. IV. gewonnen werden, in welchem die Montelschen Untersuchungen über Normalfolgen [Ann. Éc. Norm. (3) 29, 487–535 (1912; JFM 43.0509.05); 33, 223–302 (1916; JFM 46.0519.01)], die ja auch bei Julia die Grundlage der Theorie bilden, herangezogen werden, um das Verhalten der Folge der \(R_n(z)\) in der ganzen Zahlenebene zu studieren.
Eine Gesamtheit von in einem Bereich \(D\) (in der Umgebung \(D\) eines Punktes \(P)\) meromorphen Funktionen nennen wir nach Montel normal im Bereiche \(D\) (im Punkte \(P),\) wenn sich aus jeder in ihr enthaltenen unendlichen Teilfolge \(f_n(z)\) eine unendliche Teilfolge \(f_{n_i}(s)\) auswählen läßt, die in jedem abgeschlossenen Teilbereich \(D'\) von \(D\) gleichmäßig konvergiert. Dann gilt der wichtige, im wesentlichen auf dem Schottkyschen Satze beruhende Satz: Wenn eine Folge \(f_i(z)\) von analytischen Funktionen, die in \(D\) meromorph sind, in \(D\) mindestens drei Punkte ausläßt, d. h. wenn es drei Werte \(a, b, c\) gibt, die in \(D\) von keiner Funktion der Folge angenommen werden, so ist die Folge \(f_i(z)\) normal in \(D.\) Dieser Satz wird vom Verf. sowohl wie von Julia in erster Linie herangezogen.
Verf. untersucht nun die Eigenschaften der Menge \(F\) aller Punkte, in denen die Folge der \(R_n(z)\) nicht normal ist. Wegen des eben erwähnten Montelschen Satzes häufen sich die Vorgänger aller Punkte mit höchstens zwei Ausnahmen in jedem Punkt von \(F.\) U. a. wird bewiesen: \(F\) ist perfekt; \(F\) ist invariant gegenüber \(R(z)\) und gegenüber der Umkehrungsfunktion \(R_{-1}(z).\) Ist \(D\) eine Umgebung eines Punktes von \(F,\) so wird \(F\) von jeder hinreichend hohen Iterierten \(D_m\) von \(D (m > m_0)\) überdeckt; der Durchschnitt \(F^*\) von \(D\) mit \(F\) wird also durch \(R_m\) auf \(F\) abgebildet. Die Bildmenge \(F\) besitzt also alle diejenigen Eigenschaften von \(F^*,\) die eine Abbildung durch eine rationale Funktion bewahrt und in diesem Sinne ergibt sich, daß\(F\) in allen Teilen gleiche “Struktur” hat. Hat \(F\) z. B. einen inneren Punkt, so umfaßt es alle Punkte. Die angeführten Eigenschaften von \(F\) kommen sämtlich auch der der Juliaschen Untersuchung zugrunde gelegten Menge \(E',\) der Ableitung der Menge aller abstoßenden Fixpunkte, zu. Verf. beweist die Identität beider Mengen, indem er einerseits zeigt, daßjeder Punkt von \(F\) Häufungspunkt von Fixpunkten ist (dies gelingt ohne Mühe unter Benutzung des Montelschen Satzes), und indem er andererseits beweist, daßdie Zahl der anziehenden und indifferenten Zyklen endlich ist.
Im V. Kapitel werden die Bereiche untersucht, in welche \(F\) die Ebene teilt. Zahlreiche Beispiele werden behandelt. Es sei hier bemerkt, daßdie analytischen Funktionen, gegen die eine passend ausgewählte Teilfolge der \(R_n(z)\) in einem, keinen Punkt von \(F\) enthaltenden Gebiet konvergiert, in allen bisher behandelten Beispielen Konstanten sind; die Frage, ob es auch nicht konstante Grenzfunktionen gibt, vermag Verf. nicht zu entscheiden (vgl. Kap. IV, §28 der vorl. Arbeit).
Das VI. Kapitel befaßt sich eingehend mit den Eigenschaften von \(F.\) Verf. erhält u. a.: Wenn \(F\) weder ein Kreis oder eine Gerade noch ein Kreisstück oder ein Geradenstück ist, so kann es kein isoliertes analytisches Kurvenstück enthalten. Die Beweise dieses Kapitels benutzen außer den Eigenschaften der Normalfolgen insbesondere die Theorie der konformen Abbildung.
Das VII. Kapitel liefert Beiträge zur Theorie der Schröderschen, der Abelschen und verwandter Funktionalgleichungen.