The Big Nine - How the Tech Titans & Their Thinking Machines Could Warp Humanity / Dokuz Dünya Devi - Teknoloji Devleri ve Onların Düşünen Makineleri İnsanlığı Nasıl Tahrip Edebilir? -- Amy Webb, Book Review EN & TR

 

Hello!

After a very long break, I’m back with a New York Times Bestseller book. I bought this book more than two years ago, but I’ve just finished reading it. I’m sure you also have books you bought years ago that you still haven’t read. As I write these lines, I can’t help but glance at the other books that share the same fate... Honestly, when I bought this book, the AI craze wasn’t as much of a hot topic, at least not in Turkey. I believe this awareness became more pronounced with the advent of ChatGPT in our country. Without further ado, I’ll get into the main topic where I’ll quote parts of the book, try to explain what I understood, and share my thoughts.

First of all, I find the writing of such a book beneficial for humanity. Discussing the potential impacts of AI on our lives before they directly affect us might prevent some negative scenarios. The author dedicates a significant portion of the book to these scenarios.

The book is written about nine tech giants on a global scale. Six of them are American companies: Google, Microsoft, Apple, Facebook, IBM, and Amazon. The other three are Chinese tech giants: Baidu, Alibaba, and Tencent. To be honest, I wasn’t even aware of the existence of companies like Baidu and Tencent. The author groups these companies as G-Mafia and BAT. Although the author’s primary concern is humanity and its future, you can occasionally feel the competition between America and China. Throughout the book, the author frequently mentions that as long as American companies and the government continue behaving in this manner, they will fall far behind and face serious challenges against China. Another fact I learned from this book is that these three Chinese tech giants collaborate with the Chinese government, sharing all data between the government and the companies. As you know, the most important factor for the development of AI is human data and behavior. That’s why every app we download asks for permission to access our microphone, camera, messages, gallery, etc., and most of the time, we grant these permissions without much concern. China’s current population is approximately 1.4 billion, while the US population is around 333 million. Considering China’s population and the agreements between its tech companies and the government, they have access to about 4-5 times more human data, which is a significant advantage for these Chinese tech firms. Although the author seems to portray China in a negative light in some cases, he also heavily criticizes American companies. Before reading this book, I honestly didn’t realize how seriously China was taking the issue of AI. AI courses have even been added to middle school curricula since 2017. So, children start becoming knowledgeable about AI from a very young age. Another surprising fact I discovered while reading was that in March 2018, China allowed President Xi Jinping to remain in power for life. Given that these three tech companies and the Chinese government can plan for such a long-term future, it doesn’t look promising for humanity. In a capitalist system, competition has always been beneficial for humanity. It allows us to receive better services, buy products at lower prices, and live a higher quality of life. I wish the competition wasn’t just between these two countries; maybe we could have envisioned a more optimistic scenario for ourselves. The author occasionally provides information about China’s political policies, explaining how its influence has increased in South America and Africa. Through economic aid and support, the world is beginning to know China better. It’s also a known fact that American influence on an international level has diminished in recent years.

The author has some major concerns about AI development and these nearly monopolistic nine companies. These concerns include:

1. Human Diversity

The author likens the teams working on AI within these companies to a tribe, calling them AI tribes. The main concern here is that the future of AI is being shaped by small, closed groups of people with similar thoughts. If we consider that the way AI responds to problems and situations is actually determined by the people who code it, the author’s concern is quite valid. Although AI might eventually develop its own learning capabilities through machine learning, this is still a topic with uncertain accuracy and methods. People working in AI primarily reside in North America and China. They attend the same universities and adhere to the same social norms. These people are wealthy and educated, and they are predominantly male. Homogeneity is a bigger issue in China, where almost all employees are Chinese. In America, at least people from different nationalities work together. Even just thinking about this paragraph reveals that the fate of AI seems to be in the hands of these individuals. How can this AI represent or understand a South American or Taiwanese person whom its engineer has never met and make the right decision? The author advocates for a more heterogeneous environment, believing that having people from diverse backgrounds, cultures, religions, and sexual orientations would lead to the development of AI that is more beneficial for humanity. Bringing together different cultures could foster tolerance and empathy, initially helping people understand each other and eventually, if possible, allowing machines and robots to understand humans.

2. Morality and Ethics

Another issue the author highlights is education. The majority of people working in AI are engineers who graduated from fields like Software, Computer Science, Electrical Engineering, etc. And their curricula are mostly composed of technical courses. The author emphasizes that these people don’t take many courses on topics like philosophy, sociology, colonialism, or literature. Such courses are not widely encouraged, and even if someone wants to take them, they may be less inclined to do so because these elective courses don’t offer any tangible benefits. In short, the author wants to emphasize two different key points: the importance of having a diverse group of people working together and the need for the development of this technology to be in the hands of people who have strong moral and ethical values. As you can imagine, unfortunately, in a capitalist world, people often act based solely on their own interests. Especially in companies, whose primary goal is profit, you shouldn’t have too high expectations.

These two points are actually valid in many areas of life. Decisions made at a political level or laws written are often determined by a very small group of people. Although democracy tries to mitigate this, I’m afraid I can’t be too optimistic in practice. However, it seems that AI makes this issue more dangerous. At some point, it might no longer be a human making the decisions, but a machine. The author presents these optimistic, pragmatic, and catastrophic scenarios in three separate parts of the book. The optimistic scenario is one of the best possible outcomes for humanity, but the other parts resemble science fiction scenarios. There was even a Netflix series that covered similar situations, but I can’t recall its name...

The author acknowledges that a set of directives for AI cannot be written. Writing all the rules and then expecting AI to optimize them for humanity, unfortunately, doesn’t seem feasible. Whatever the rules may be, there will always be people who want to interpret them differently, completely ignore them, and create new rules according to the new situation.

While reading the pragmatic and catastrophic scenarios in the book, I often found myself wondering, “Okay, but what can I do about this?” I don’t have much idea how restricting the data that apps can access might prevent anything. I was starting to hope the author had some ideas on this matter, and I was relieved to see a final section in the book titled “What Can We Do.”

The author advocates for the establishment of a body to oversee AI development. In the “optimistic” section of the book, he refers to this as GAIA (Global Alliance on Intelligence Augmentation). He argues that Montreal, Canada, would be the most neutral location for this body. The first reason is that Montreal is home to many researchers and laboratories specializing in deep learning. Another point is that the Canadian Prime Minister’s policies and support for AI have been positive.

According to the author, the following steps should be taken under the GAIA framework:

• Collaboration is needed to establish frameworks, standards, and best practices for AI. China and its tech giants should also be invited to join this alliance.
• The Nine Tech Giants must prioritize human rights and not see us as resources to be exploited for profit or political power.
• Our personal data records should belong to us and be able to work across different AIs. They should not belong to any company or nation.
• Humanity must always remain at the center of AI development.
• AI systems must be secure and robust, and it should be possible for people to verify this.
• Companies should prioritize security over speed. Decisions should not be made based on financial concerns.
• If an AI system causes harm, this should be reported, and an audit process should be in place to mitigate the damage.
• AI systems should be explainable.
• Everyone working in the AI field should be aware that they are making ethical decisions and be prepared to explain the decisions they make throughout the testing and implementation processes.
• All AI projects should adhere to the Human Values Atlas.
• There should be a code of conduct for those working in the AI field.
• Everyone should have the ability to question AI systems.
• The use of AI by authoritarian regimes should be prevented as much as possible.
• All data should be approached with equality and fairness, without distinction based on nationality, race, religion, sexual identity, gender, or political inclination.

To be honest, if you look at the points above, in theory, this seems like a beneficial formation for humanity. Unfortunately, in practice, when humans are involved, every formation is susceptible to corruption. When we don’t consider AI, many international organizations have already been established for various issues. Examples of these include:

• United Nations (UN)
• World Health Organization (WHO)
• World Bank
• International Monetary Fund (IMF)
• World Trade Organization (WTO)
• UNESCO

You are free to question how much these organizations truly work for the benefit of humanity. But if you ask for my opinion, I definitely think that an organization like GAIA and the laws I've tried to outline would be highly beneficial for humanity.

Independent of artificial intelligence, I believe that technology has reached a point where it has become very dangerous for individuals. Unfortunately, the amount of time spent on electronic devices is increasing day by day, not because we need to, but because we are addicted to it. Honestly, from this point onward, I think that advancing technology is no longer beneficial to humanity, but rather invites worse scenarios. As someone born in '97, I feel that the technology of my childhood was quite sufficient. Living standards had improved, and communication and transportation had become much easier. But unfortunately, we will never be content with where we've reached. The technologies I was satisfied with back then are now the beginning and cause of developments I currently complain about. The most ironic part is that I owe the ability to write this very piece to the technology I complain about. Sometimes, I find myself wondering how I would have lived in the Middle Ages, or even just 30-40 years ago. Perhaps back then, I would have written things down on paper, or maybe I wouldn't have had the opportunity to learn how to write at all. Isn't that a bit of the nature of humanity? To complain about what we have and always long for what we don't?

I'll conclude my writing with a humble piece of advice, both for myself and for those who read this.

Circumstances and situations will always present us with things we can complain about or be dissatisfied with. No matter how many family members or friends we have around us, we are often alone. I think happiness lies in accepting what is given to us, whether good or bad, and trying to improve it ourselves if possible.

As I write these final lines, Evgeny Grinko's "Field" began to play on my playlist. Honestly, it made the atmosphere much more dramatic as I wrote. Maybe you’ll feel the same things if you listen to it while reading these lines! See you in a better future...

----------

TR Version

Selamlar!

Çooook uzun bir aradan sonra tekrar bir New York Times Bestseller kitabı ile karşınızdayım. Bu kitabı alalı belki 2 seneden fazla olmuştur ama yeni bitirmiş bulunuyorum. Eminim sizin de yıllar öncesinde alıp hala hiç okumadığınız kitaplarınız vardır. Bu satırları yazarken aynı kaderi paylaşan diğer kitaplarımla bakışmayı da ihmal etmiyorum.. Açıkcası bu kitabı aldığımda yapay zeka furyası bu kadar gündem değildi. En azından Türkiye için. Ülkemizde sanırım bu farkındalık chatgpt ile daha belirgin hale geldi. Lafı çok uzatmadan zaman zaman kitaptan alıntılar yapacağım, anladıklarımı ve yorumlarımı size yazmaya çalışacağım yazıma geçiyorum...

Öncelikle böyle bir kitabın yazılmasının insanlık için faydalı buluyorum. Çünkü yapay zekanın hala hayatımıza direkt olarak etkileri olmadan bunların konuşulması belki bazı kötü senaryoları önleyebilir. Yazar özellikle bu senaryolar için kitabın ciddi bir kısmını ayırmış.

Kitap, global ölçekte teknoloji devi olan 9 şirket üzerine yazılmış. Bunlardan altısı Amerikan şirketi olan Google, Microsoft, Apple, Facebook, IBM, Amazon ve diğer üçlü ise Çinli teknoloji devi Baidu, Alibaba ve Tencent. Dürüst olmak gerekirse Baidu ve Tencent diye bir şirket olduğundan haberdar bile değildim. Yazar bu şirketleri G-Mafia ve BAT olarak gruplandırıyor. Yazarın temel kaygısı insanlık ve onun geleceği olsa da zaman zaman Amerikan ve Çin rekabetini hissediyorsunuz. Yazar kitabın bir çok yerinde Amerikan şirketlerinin ve Hükümetinin bu şekilde davranmaya devam ettiği sürece Çin karşısında çok geri ve zor durumda kalacağını belirtiyor. Ve yine bu kitaptan öğrendiğim bir bilgi ise bu 3 Çin Teknoloji devinin Çin Hükümeti ile beraber çalıştığı, Hükümet ve Şirketlerinin birbiri arasında bütün verilerin paylaşıldığı yazılıyor. Bildiğiniz üzere yapay zekanın gelişebilmesi için en önemli şey insan verileri ve davranışları. Bu yüzden telefonumuza indirdiğimiz her uygulama mikrofona, kameraya, mesajlara, galerimize vb. her yere erişmek için izin istiyor ve biz de çoğu zaman önemsemeden izin veriyoruz. Çin'in güncel nüfusu yaklaşık 1.4 milyar. Amerika'nın ise yaklaşık 333 milyon. Yani Çin nüfusunu ve teknoloji şirketlerinin hükumet ile anlaşmalarını göze alırsak yaklaşık 4-5 kat daha fazla insan verisine ulaşma imkanlarına sahipler ve bu Çin teknoloji firmaları için büyük bir avantaj. Bu arada Yazar her ne kadar bazı durumlarda Çin'i daha kötü gösteriyormuş gibi dursa da Amerikan şirketlerinin çok ciddi şekilde eleştiriyor. Kitabı okumadan önce Çin'in yapay zeka konusunu bu kadar ciddiye aldığı hakkında bir fikrim açıkçası pek yoktu. 2017'den itibaren yapay zeka dersleri ortaokul ders programlarına eklenmiş bile. Yani çocuklar çok ufak yaştan itibaren yapay zeka hakkında donanımlı olmaya başlıyorlar. Okurken bir diğer şaşırdığım konu ise Mart 2018'de Çin, Başkan Xi Jinping'in yaşamı boyunca iktidarda kalmasına izin vermiş. Bakıldığı zaman bu 3 teknoloji şirketi ve Çin Hükümetinin bu kadar uzun soluklu bir gelecek planlaması yapabiliyor oluşu insanlık için pek iyi durmuyor. Kapitalist düzende sadece rekabet insanoğlu için faydalı olmuştur. Rekabet sayesinde daha iyi hizmet alabiliriz, daha ucuza ürün satın alabiliriz, daha kaliteli yaşayabiliriz. Keşke rekabet yine bu iki ülke arasında olmasaydı belki bizim için daha optimist bir senaryo düşünebilirdik. Yazar zaman zaman Çin'in siyasi politikaları hakkında da bilgi vererek Güney Amerika'da, Afrika'da nüfuzunun ne kadar arttığını anlatıyor. Yaptığı ekonomik yardımlar ve destekler sayesinde Dünya Çin'i daha çok tanımaya başlıyor. Son yıllarda uluslararası düzeyde Amerikan etkisinin azaldığı da bilinen bir gerçek.

Yazarın yapay zeka gelişiminde ve bu neredeyse tekel olmuş 9 şirket arasında rahatsız olduğu belli başlı konular mevcut. Bunlar ; 

1- İnsan Çeşitliliği

Yazar şirketlerin yapay zeka kısımlarında çalışan ekipleri, takımları bir kabileye benzetiyor. Buna yapay zeka kabileleri diyor. Buradaki en büyük endişesi aslında yapay zekanın geleceğinin küçük, dışa kapalı gruplar tarafından benzer düşüncelere sahip kişiler tarafından inşa edilmesi. Yapay zekanın sorunlara, durumlara cevap verme şeklinin aslında onu kodlayan kişiler tarafından belirlendiğini düşünürsek yazarın endişesi gayet yerinde. Makinelerin öğrenebilme yeteneği ile yapay zeka bunu kendi kendine de belki geliştirebiliyor olacak ancak bu günümüzde henüz doğruluğu ve yöntemi kesin olarak cevaplanabilmiş bir konu değil.

Yapay zeka alanında çalışan insanlar Kuzey Amerika'da ve Çin'de yaşayıp duruyolar. Aynı üniversitelere gidiyolar. Aynı sosyal kurallara uyuyolar. Bu insanlar zengin ve eğitimliler. Çok yüksek oranda erkeklerden oluşmaktadır. Homojenlik Çin'de daha büyük bir sorun çünkü orada neredeyse sadece Çinlilerden oluşmaktadır. Amerika'da en azından farklı milletlerden insanlar çalışmaktadır. Aslında sadece bu paragraf bile üzerine düşünüldüğünde gerçekten bütün yapay zekanın kaderi o insanlara bağlı gibi duruyor. Bu yapay zeka, onu kodlayan mühendisin hiç tanışmadığı bir Güney Amerikalı biri ile ya da Tayvanlı bir kişiyi nasıl temsil edebilecek ya da anlayacak ve doğru kararı verebilecek? Yazar mümkün olduğunca heterojen bir ortamın olmasını destekliyor. Böylece farklı kökenlere, kültürlere, dini inançlara ve cinsel eğilimlere sahip insanların olması insanlık için daha doğru bir yapay zeka gelişimine sebep olacağını düşünüyor. Farklı kültürlerin bir arada olması hoşgörü ve empati noktasında ilk önce insanların birbirini anlamasını ve sonrasında eğer mümkünse bir noktada makinelerin, robotların da insanları anlamasını mümkün kılabilir.

2- Ahlah ve Etik

Yazarın yakındığı bir diğer konu ise eğitim. Yapay zeka alanında çalışan insanların büyük bir bölümü Yazılım, Bilgisayar, Elektrik vb alanlardan mezun mühendislerden oluşuyor. Ve bu insanların ders programları ağırlıklı olarak teknik derslerden oluşmaktadır. Yazar bu noktada felsefe, sosyoloji, sömürgecilik, edebiyat gibi konulardan çok fazla ders almadıklarını vurguluyor. Bu derslerin alınması pek hoş karşılanmamaktadır. Böylece bu dersleri almak isteyecek kişiler olsa bile onlara somut getirisinin olmayacağını bildiklerinden bu tarz seçmeli derslere yönelim de daha az olmaktadır. Kısaca bu iki maddede yazarın değinmek istediği iki farklı net nokta var; Birbirinden çok farklı insanların bir arada çalışmasının çok daha sağlıklı olacağı ve  insani ve sosyal duyguları gelişmiş etik ve ahlak değerlere önem veren insanların ellerinde bu teknolojinin gelişmesi. Takdir edersiniz ki insanoğlu malesef kapitalist dünyada çoğu zaman sadece kendi çıkarlarına göre hareket etmektedir. Hele ki şirketler, tek amacı kar etmek olduğu için onlardan çok fazla bir beklentiniz olmamalı.

Aslında bu iki madde hayatın bir çok alanında geçerli. Siyasi boyutlarda alınan kararları, yazılan yasaları çoğu zaman çok küçük bir insan topluluğu karar vermiştir. Her ne kadar demokrasi ile bunun önüne geçilmeye çalışılsa da pratikte ben malesef çok iyimser düşünemiyorum. Fakat sanırım yapay zeka ile bu konu daha tehlikeli hale geliyor. Çünkü bir noktada artık karar veren insan yerine bir makine olabilir. Bu iyimser, pragmatik ve felaket senaryolarını yazar üç farklı kısımda kaleme almış bulunuyor. İyimser senaryo insanlık için olabilecek en güzel sonuçlardan biri fakat diğer kısımlar birer aslında bilim kurgu senaryolarına benziyor. Hatta Netflix'te bu tarz durumları elen alan bir dizi de vardı fakat hatırlayamadım..

Yazar yapay zeka için bir dizi emir yazılamayacağının farkında. Tüm emirleri yazıp sonra bunları insanlık için optimize etmesini beklemek malesef pek mümkün değil. Yazılacak kurallar ne olursa olsun gelecekte mutlaka onları farklı bir şekilde yorumlamak isteyecek, tamamen yok sayacak ve yeni duruma göre yeni kurallar belirlemek isteyecek insanlar olacak.

Kitabın özellikle pragmatik ve felaket senaryolarını okurken içimde bir çok kez iyi de peki ben buna ne yapabilirim diye düşünmeden edemiyordum. İndirdiğim uygulamaların erişebildiği verileri kısıtlayarak neleri engelleyebilirim açıkçası bir fikrim yok. Umarım yazarın bu konu hakkında da bir fikri vardır diye düşünmeye başlamıştım ve "Ne yapabiliriz" diye kitabın bir son kısmının olması en azından rahatlattı.

Yazar yapay zekanın gelişimini denetleyecek bir yapının kurulmasından yana. Kitabın "iyimser" bölümünde bu GAIA (Global Alliance on Intelligence Augmentation) olarak adlandırıyor. Bu yapı için en tarafsız bölgenin Montreal, Kanada olabileceğini savunuyor. Bunun birinci sebebi ise, Montreal derin öğrenme alanında pek çok araştırmacının ve laboratuvarın bulunduğu bir yer. Diğer bir nokta ise Kanada Başbakanının  yapay zeka konusunda izlediği politikalar ve desteklerinin olumlu yönde olmasından kaynaklanmaktadır. 

Yazara göre GAIA çatısı altında yapılması gerekenleri madde madde yazmaya çalışacağım.

• Yapay zeka için gerekli çerçeveleri, standartları ve en iyi uygulamaları belirlemek için iş birliği yapılmalıdır. Bu ittifaka Çin ve onun teknoloji devleri de davet edilmelidir.
• Dokuz Dünya Devi insan haklarını öncelik olarak kabul etmeli ve bizi kar veya politik güç elde edebilecekleri kaynaklar olarak görmemeli.
• Kişisel veri kayıtlarımız bize ait olmalı ve farklı yapay zekalar arasında çalışabilmeli. Herhangi bir şirkete veya ulusa ait olmamalı.
• İnsanlık her zaman yapay zekanın gelişiminin merkezinde olmalı.
• Yapay zeka sistemleri güvenli ve sağlam olmalı. Bunun doğrulanabilirliği insanlar için mümkün olmalı.
• Şirketler hızdan önce güvenliğe önem vermeli. Maddi kaygılar sebebiyle kararlar alınmamalı.
• Yapay zeka sistemi bir zarar sebep olursa bu raporlanabilmeli ve hasarın hafifletilebilmesi için bir denetim süreci işlemeli
• Yapay zeka sistemleri açıklanabilir olmalı.
• Yapay zeka sistemleri alanında çalışan herkesin etik konularda kararlar verdiklerinin bilincinde olmalı, test etme ve uygulama süreçlerinin tamamında aldıkları kararları açıklamaya hazır olmalı.
• Tüm yapay zeka projeleri İnsani Değerler Atlası'na bağlı olmalı.
• Yapay zeka alanında çalışanların bağlı olacağı bir davranış kurallar belgesi olmalı.
• Herkesin yapay zeka sistemlerini sorgulayabilme imkanı olmalı.
• KVK'ların otoriter rejimler tarafından kullanılması mümkün olduğunca engellenmeli
• Ulus, ırk, din, cinsel kimlik, cinsiyet ve politik eğilimler ayırt edilmeksizin tüm verilere eşit ve adil bir şekilde yaklaşılmalı.

Dürüst olmak gerekirse yukarıdaki maddelere bakılırsa teoride insanlık için yararlı bir oluşum gibi duruyor. Malesef pratikte işin içine insan girdiği zaman her oluşum yozlaşmaktan kaçınamıyor. Yapay zeka olarak düşünmediğimizde hali hazırda bir çok konu için kurulmuş Uluslararası örgütler mevcut. Bunlara aşağıdaki oluşumları örnek verebiliriz.

• Birleşmiş Milletler (BM)
• Dünya Sağlık Örgütü (WHO)
• Dünya Bankası (World Bank)
• Uluslararası Para Fonu (IMF)
• Dünya Ticaret Örgütü (WTO)
• UNESCO 

Fakat bu oluşumların ne kadar insanlık için  çalıştığını sorgulamakta özgürsünüz. Ama eğer fikrimi soracak olursanız kesinlikle GAIA gibi bir oluşumun ve maddeler halinde yazmaya çalıştığım yasaların insanlık için çok faydalı olacağını düşünüyorum. 

Yapay zekadan bağımsız teknolojinin artık bence bireyler için çok tehlikeli bir noktaya geldiğini düşünmekteyim. Elektronik cihazlarımızda geçirilen süre miktarı malesef günden güne artmakta ve aslında buna ihtiyacımız olduğu için değil sadece bağımlı olduğumuz için yapmaktayız. Açıkçası ben artık bu noktadan itibaren gelişen teknolojinin insanlığa yararı olduğunu değil daha kötü senaryolara davet çıkardığını düşünmekteyim. 97 doğumlu biri olarak çocukluğumdaki teknoloji aslında gayet yeterliydi. Yaşam standartları yükselmiş iletişim ve ulaşım çok daha kolaylaşmıştı. Ama malesef hiçbir zaman ulaştığımız yerde kalmayacağız. O zaman memnun olduğum teknolojiler şu an şikayetçi olduğum gelişmelerin başlangıcı ve sebebiydi. İşin en ironik tarafı ise bu yazıyı yazabilmemi bile şikayetçi olduğum teknolojiye borçluyum. Bazen kendimi orta çağlarda ya da çok da uzağa gitmeden bundan 30-40 yıl önce nasıl yaşasaydım onu düşünürken buluyorum. O zaman da belki bir şeyleri kağıda yazardım belki de yazı yazmayı öğrenebilecek imkanlara bile sahip olamayabilirdim. Aslında insanın yapısı da biraz bu değil mi? Olandan şikayetçi olmak ve hep olmayanı istemek?

Yazımı naçizane hem kendime hem okuyanlara bir tavsiye vererek bitirmeye çalışacağım. 

Şartlar ve durumlar bize her zaman şikayet edebileceğimiz, memnun olmayacağımız şeyler sunacak. Her ne kadar etrafımızda ailelerimiz, arkadaşlarımız olsa da aslında çoğu zaman yalnızız. Mutluluk sanırım iyi ya da kötü bize verileni kabul etmekte ve imkan dahilinde eğer mümkün ise kendi kendimize iyileştirmeye çalışarak geçirmekte.

Yazımın son satırlarını yazarken dinlediğim listede Evgeny Grinko'nun Field adlı eseri çalmaya başladı. Açıkcası yazarken ortamın havasını daha çok dramatikleştirdi. O satırları okurken siz de o eseri dinleyin belki aynı şeyleri hissederiz! Daha iyi bir gelecekte görüşmek üzere..