Does anyone know who invented the notations {x in A | P(x)} and
{x in A : P(x)} for sets defined by a property P(x)?

McShane, Integration, 2nd ed. (1947) uses {x | S},
I don't have access to the first edition from 1944 
- is it perhaps already there?

Halmos, Measure Theory (1950) uses {x: pi(x)}.

These are the earliest occurrences of the modern notations known
to me (communicated to me by Viktor Losert).

Maybe someone is able to trace back the use even further.
Please send information directly to me (Arnold.Neumaier@univie.ac.at);
the newest state of the investigation will always be visible on my
web page http://www.mat.univie.ac.at/~neum/contrib/set.txt


Note that variants of the modern notations are used in the older 
literature. For example, a paper by Von Neumann 1928 uses M(x; E(x)), 
and in ''On rings of operators'' (1936), he uses (x; epsilon(x)).
I am interested only in the modern forms.


January 30, 2009                            Arnold Neumaier


========================================================================

A posting from December 14, 2008 in sci.math.research,
by WM <mueckenh@rz.fh-augsburg.de>: 

While Cantor in his later papers [1] uses the curly brackets to denote
sets M = {m}, their products (M.N) = {(m, n)}, and functions like {an
+ n_0} or {f(a_n)}, he definitively does not use the symbol {...|...}
in any of his published writings and not in any correspondence that I
am aware of

But I have seen a possible forerunner. Bertrand Russell [2, p.
174-176] denotes classes and fields by expressions including cls =
alpha{(Ephi).a = z(phi!z)} and C'R = x{(Ey):xRy.V.yRx})} denoting the
field of R (where C is taken from "Campus"). The colon later may have
been replaced by |, although also in present papers we find the
expression {... : ...}.

Of course I am not sure whether this is the first appearance of this
symbol.

[1]  G. Cantor: 
Beitr\"age zur Begr\'undung der transfiniten Mengenlehre,
Math. Annalen Bd. 46, S. 481-512 (1895); Bd. 49, S. 207-246 (1897)
[2] B. Russell: 
Mathematical logic as based on the theory of types
(1908), reprinted in 
Jean van Heijenoort: From Frege to Goedel, Harvard 1967, p 150-182.

========================================================================

A mail from December 21, 2008, by Viktor Losert:

Das früheste Vorkommen, das ich gefunden habe {x | S} ist im Buch von  
McShane, Integration, 2.Aufl.1947  (die 1.Aufl 1944 haben wir leider
 nicht).

von Neumann verwendet in einer Arbeit 1928 kurz die Notation M(x; E(x)).
Zermelo und Fraenkel verwendeten in ihren Arbeiten andere Symbole für 
Aussonderungsmengen.
In seiner großen Arbeit "On rings of operators" (1936) verwendete von 
Neumann die Notation  (x; epsilon(x))  (runde Klammern).

Halmos, Measure Theory (1950) verwendet  {x: pi(x)}  (seine "Naive set 
theory" ist aber erst 1960 erschienen).

In amerikanischen Lehrbüchern der 50er Jahre dürfte die Notation schon 
gängig gewesen sein. Montgomery, Zippin (Topol. transformation groups, 
1955) verwenden ; statt | . Dunford,Schwartz (Linear operators, 1958) 
{x|P(x)} .
In Algebra-Lehrbüchern aus dieser Zeit (zB Jacobson) habe ich es nicht 
gefunden.

In Europa dürfte sich die Schreibweise erst mit Verzögerung 
durchgesetzt haben.
Kuratowski, Topologie: in der franz. Ausgabe 1952 (3.Aufl.) wird noch 
die Bezeichnung  E_x phi(x)  (wobei das x unter dem E steht) verwendet, 
in der engl. Ausgabe 1966 steht dann eine Fußnote: dafür wird auch 
{x: phi(x)} geschrieben.

Bei Bourbaki: in der engl. Sammelausgabe (Theory of sets, 1968) wird 
noch die Bezeichnung  Ex(R)  (mit script-E) verwendet. In der 
französischen Neuauflage 1970 steht dann {x|R} .  Die Symbolik wird 
aber nur sehr sparsam verwendet. Möglicherweise um den Eindruck einer 
formalen Definition zu vermeiden (man müßte ja auch definieren was 
eine "Eigenschaft" ist bzw. welche Eigenschaften erlaubt sind; auf der 
Ebene einer Einführung ist das wohl kaum machbar).

Im Mengenlehre-Lehrbuch von Kamke werden auch in den Nachkriegsausgaben 
(letzte Auflage die wir haben: 1971) alle Aussonderungskonstruktionen 
rein verbal beschrieben.