Have read the 2002 book "Flesh and Machines" by Rodney Brooks. Wow, if a guy with this experience and standing is so close to my thoughts, i cannot be too wrong. He is the famous director of Artificial Intelligence Lab at MIT, and spent his life with building robots.
Very inspirational chapter on how to achieve commercial success with robots in every day applications. But the most important chapter are his considerations about what is still missing between present-state Artificial Intelligence and true biological living intelligence. Like Steve Grand, he also votes against Penrose, Chalmers and Searle, believing that there is no principal reason why we could not construct a man-like machine. But on the other hand, he admits that there is still something essential missing. He does not know what it is, but he calls it "The Juice". He does not believe that it is something mystical or revolutionary new, but a simple thing visible right in front of our nose which we simply have not discovered yet.
Now take this together with "A new kind of science" by Stephen Wolfram. All these thoughts are converging with my ideas about unleashing the machine, leaving freedom to the machine to make its own experiences. To alter the sequence of input-processing-output, and designing it from the machine's point of view: output-input-processing, that is, making experiences and learning from it.
There are already very simple principles and examples of systems that build an internal representation of their input = experiences = outside world. The simplest one are the classificator algorithms known as Kohonen networks. I have always been impressed by the fact that those neural nets seem to generate order from chaos by themselves, without guidance, as if it were there desire to make a model of the world.
Second, the neural net needs to have the elements of indetermination and internal state, both easy to implement by recurrent neural nets instead of the boring feed forward networks that are so beloved by scientists since they can be controlled and described. What is intelligence if you can explain it? The true nature of intelligence must be that the outside cannot control or describe it anymore. Today, this happens only in a quantitative way, like a chess computer is admired for its pure computational power, but in principle it is well known how it works.
Here is my first hypothesis for how to build a "true" AI:
A machine that exhibits true intelligence must generate its behavior with an algorithm that cannot be explained or understood.But I also understood Rodney Brooks' requirement for a theoretical, i.e. mathematical formulation of "The Juice". But i think this will only be possible after the fact, after a real world system has been proven to provide the desired results. So I should go this path: try to implement an algorithm that cannot be understood, but still exhibits more than stochastic behavior.
Post scriptum: found this (German) article from 2002 on the search of Rodney Brooks for the juice of life.
http://www.zeit.de/archiv/2002/31/200231_p-brooks.xml?page=allSome excerpts:
Wenn der Ingenieur in den vergangenen beiden Jahren seine Geschöpfe ansah, fiel ihm immer mehr auf, dass sie trotz aller Erfolge, am richtigen Leben gemessen, stümperhaft wirkten. Selbst ein Pantoffeltierchen ist stabiler und vielseitiger als die ausgeklügeltste High-Tech-Kreatur. Der Einzeller bewegt sich geschmeidig durch die Welt, versorgt sich mit Energie und vermehrt sich rege. Brooks versteht nicht, welche Barriere ihn hartnäckig daran hindert, genauso flexible Wesen zu schaffen: "Ich bin sicher, dass Menschen Maschinen sind. Es gibt deshalb keinen Grund für die Annahme, wir könnten keine Wesen aus Silizium und Stahl bauen, die über Gefühle und Bewusstsein verfügen."
In ihm sei eine Überzeugung gereift. Weder mehr Rechnerkapazität noch komplexere Vernetzung künstlicher Neuronen würden den Funken des Geistes in den Blechköpfen je erwecken. "Was uns fehlt", fasst der Professor zusammen, "ist der ,Juice' - der Saft des Lebens." Um dieses ominöse Elixier zu finden, hat Brooks das Programm Lebendige Maschinen aus der Taufe gehoben. Doch wie findet man etwas, von dem niemand weiß, wie es aussieht?
Den "Saft" will Brooks beim Versuch entdecken, das Leben mit Robotik nachzubauen. Das war lange Zeit die Domäne der Artificial-Life-Forschung, die virtuelle Wesen im Computer kämpfen, sich vermehren und evolutionär entwickeln ließ. Doch nach anfänglicher Aufregung zeitigte diese Forschung kaum Ergebnisse. Besser als reine Datenwesen könnten Roboter, ganz und gar Materie wie lebende Organismen, es schaffen, den Schleier zu lüften.
Seine Studenten brüten über möglichen Wegen zum heiligen Gral. Sie forschen an flexiblen Materialien wie Plastikfolien, die als Zellhülle fungieren könnten, an einem künstlichen Nervensystem, das sie einfachen Organismen nachbilden, an neuartigen Gitterstrukturen, die einst als Gerüst für Roboter dienen mögen. Doch an Stoffwechsel oder Fortpflanzung, essenzielle Elemente des Lebens, wagen auch diese Pioniere sich noch nicht heran.
Vielleicht steuere er heillos in die Irre, sagt Brooks. Seiner kindlichen Neugier tut das keinen Abbruch. "Uns fehlt nur eine mathematische Beschreibung, um zu verstehen, was biologische Systeme im Kern ausmacht." Indem der Robotermechaniker sich und seine Eleven antreibt, lebensähnliche Maschinen zu bauen, hofft er, dass sie dabei eines Tages über irgendetwas Auffälliges stolpern, das ihnen die gesuchte Antwort gibt.
What is really strange is that there dont seem to be any newer publications from the last years on this topic. Maybe he dropped it again. But he is much younger than I thought - only 51 this year. So there is more to come, I am sure.
And here is another, rather critical review of his book. In particular, the critic is right with regards to his at least naive if not politically incorrect visions about poorer countries telepresence as robots.
http://www.mindjack.com/books/fleshmachines.html